ИИ помог похитить $442 млрд в 42 странах за 2025 год По данным международной организации Global Anti-Scam Alliance (GASA), в 2025 году масштабы интернет-мошенничества с использованием ИИ оказались значительными, что привело к потерям в 442 миллиарда долларов для жителей 42 стран. Аналитики отмечают, что ущерб от мошеннических схем превосходит некоторые оценки объёма мировой торговли кокаином, и это касается не только преступлений, в которых были задействованы нейросети. Использование искусственного интеллекта в кибермошенничестве позволяет преступникам делать убедительные копии банковских и интернет-магазинных сайтов, имитировать голоса и разрабатывать сложные обманные сценарии. Это даёт возможность даже тем, кто не владеет техническими навыками, проводить крупномасштабные мошеннические операции. Специалисты особенно обеспокоены активным ростом фишинговых ресурсов, создаваемых с помощью ИИ. Согласно данным компании ZeroFox, за последние два года число найденных мошеннических страниц на девяти платформах для приложения нейросетевых технологий увеличилось более чем в четыре раза, достигнув 10,6 тысячи. Технологии, которые становятся более доступными и дешёвыми для злоумышленников, снижают необходимость в написании сложного программного кода или наличии специальных навыков, поскольку значительную часть работы могут выполнять автоматизированные инструменты. Ранее Life ru сообщал о новой схеме мошенников, использующих поддельные письма от государственных ведомств и QR-коды. Злоумышленники требуют оплаты за несуществующие почтовые услуги, перенаправляя жертв на фальшивые веб-ресурсы для кражи банковских данных. В сентябре специалисты заблокировали более 800 таких сообщений. В России мошенники также стали активнее использовать искусственный интеллект. По данным Центра аналитики социальной инженерии и искусственного интеллекта в кибермошенничестве, с начала 2026 года количество дипфейков выросло вдвое по сравнению с аналогичным периодом прошлого года. Злоумышленники создают поддельные видео и голоса, в том числе имитируя знакомых людей и известных лиц, чтобы убедить пользователей перевести деньги или перейти по мошенническим ссылкам. Помощь в создании соответствующих скриптов оказывают специализированные чат-боты из «темного» сегмента ИИ. Ридус, RBC

Неожиданное расширение Anthropic CVP + появление Mythos 5.1 Теперь вместо одного уровня CVP, их стало четыре. Буду стараться получить 3 уровень)) На 4 даже рыпаться не буду, а то въезд во многие страны себе перекрывать не хочется 💥 p.s. Второй уровень получен 🌚 @poxek_ai / Чат канала / 📲 MAX

Безопасное применение ИИ для бизнес-задач ИИ уже используется в компаниях шире, чем его видит ИБ. Сотрудники работают с публичными нейросетями, разработчики подключают AI-ассистентов, SaaS получает AI-функции, а корпоративные помощники — доступ к документам, API и внутренним системам. В результате часть AI-сценариев появляется быстрее, чем компания успевает их обнаружить и включить в привычный контур безопасности. Пока ИИ только отвечает на запросы, многое можно контролировать на уровне данных, промптов и доступа к моделям. Но с появлением AI-агентов задача меняется: модель уже может обращаться к MCP-серверам, вызывать инструменты и выполнять реальные действия от имени пользователя или системы. Одного LLM/AI Firewall в такой архитектуре уже может быть недостаточно. В эфире AM Live разберём, как обнаружить Shadow AI и выстроить контроль от запроса к модели до действий агента. Обсудим возможности и границы LLM Firewall, защиту MCP и tool calls, управление правами AI-агентов, интеграцию с IAM, PAM, DLP, SIEM и API Security. И отдельно поговорим о том, кто внутри компании должен отвечать за этот новый контур безопасности. Ссылка для регистрации: https://amlive.ru/am-live/bezopasnost-ai-i-ml-aisecops-new