Искусственный интеллект уже меняет кибербезопасность, но угрозы теперь возникают сразу с двух сторон.
Снаружи — инъекции промптов, отравление данных и попытки взломать ИИ-систему. Изнутри — собственный ИИ-агент, который без жёстких ограничений может повысить себе привилегии, подменить транзакцию или получить доступ к конфиденциальным данным.
На бесплатном открытом вебинаре разберём:
— как атакуют ИИ через промпты и данные;
— в каких сценариях агент превращается из помощника в бэкдор;
— какие действия нельзя доверять ИИ без подтверждения;
— где устанавливать «стоп-краны» и контрольные точки;
— как моделировать угрозы при внедрении ИИ;
— в каком порядке CISO стоит выстраивать защиту.
По итогам составим дорожную карту, которая учитывает и внешние атаки на ИИ, и угрозы со стороны агентов внутри инфраструктуры.
Открытый урок пройдёт 22 июня в 20:00 МСК в преддверии старта курса «Директор по информационной безопасности (CISO)».
Принять участие:
https://vk.cc/cYONLm
Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576, www.otus.ru
Программы онлайн-магистратуры ИТМО и МИФИ в партнёрстве с Яндексом. Актуальные знания, практическое обучение и гибкий график. Учитесь, совмещая с работой. Доступна господдержка оплаты, отсрочка от армии
Апдейт по Fable 5 / Anthropic: компания отправила своих ведущих специалистов по безопасности в Вашингтон. Экспортные ограничения всё ещё
Anthropic и администрация Трампа завершили переговоры в понедельник без результата: экспортные ограничения на Claude Fable 5 остаются в силе. Когда их снимут - непонятно.
Компания несколько дней убеждала Вашингтон, что опасения вокруг модели преувеличены. Ту же позицию Anthropic повторила перед исследователями из Министерства торговли США.
Министр торговли Говард Лютник подключился к встрече по телефону с саммита G7 в Эвиане, Франция. Кибердиректор Шон Кэрнкросс в переговорах не участвовал.
Со стороны Anthropic обсуждение вели сооснователь Том Браун и глава внешних связей Сара Хек. Руководитель red teaming Логан Грэм и исследователь безопасности Николас Карлини специально прилетели в Вашингтон для этих переговоров.
Главный спор - можно ли снять защитные ограничения Fable 5 и открыть более мощные возможности Mythos, которые находятся «под капотом». NSA считает, что да. Anthropic утверждает, что риск преувеличен.
Пока нет ясного понимания, какими будут следующие шаги.
restic - кроссплатформенный инструмент для бэкапов, который сохраняет зашифрованные снапшоты в 12 разных типах хранилищ.
* Поддерживает Linux, macOS, Windows, FreeBSD и OpenBSD
* Среди бэкендов: локальное хранилище, SFTP, S3, B2, Azure и GCS
* Использует дедупликацию и шифрование для эффективных и безопасных резервных копий
* Позволяет восстанавливать данные напрямую или через FUSE-mount
Чек-лист для банков и ТЭК: Запуск корпоративного ИИ
Данные не покинут периметр, а первые ИИ-агенты заработают за 14 дней. В практическом руководстве разобрали, почему облака не подходят регулируемым отраслям, и сравнили 3 пути: самостоятельная сборка, ПАК или облако. Вы узнаете: как гарантировать суверенность и пройти проверки регуляторов, скрытые затраты облачных сервисов, точный расчёт TCO на 3 года и реальные кейсы банков и ТЭК. Внутри: матрица решений, чек-лист готовности и Excel-калькулятор.
Скачайте руководство и запустите ИИ без CAPEX и санкционных рисков.