Автономный ИИ-агент взломал Hugging Face, а закрытые модели не смогли помочь расследованию
Hugging Face раскрыла инцидент, который хорошо показывает будущую асимметрию кибербезопасности.
Атака началась с вредоносного датасета, эксплуатировавшего два пути выполнения кода в системе обработки данных. Затем автономный агент получил доступ к нодам, собрал облачные и кластерные учётные данные и перемещался между внутренними кластерами.
За одни выходные система выполнила тысячи действий через краткоживущие sandbox-среды. В журналах осталось более 17 000 событий.
Самая показательная часть началась во время расследования. Команда Hugging Face попыталась анализировать реальные эксплойты, команды и C2-артефакты с помощью передовых моделей через коммерческие API, но safety-фильтры блокировали запросы.
Модели не смогли отличить работу специалиста по реагированию на инциденты от действий атакующего.
В итоге анализ перенесли на самостоятельно размещённую open-weight модель GLM 5.2. Это позволило изучать вредоносный код без блокировок и не отправлять журналы, данные атакующего и упомянутые credentials внешнему провайдеру.
Возникает опасная асимметрия:
- атакующие запускают агентов без ограничений;
- защитники могут столкнуться с блокировками именно в критический момент;
- чувствительная телеметрия не всегда должна покидать инфраструктуру компании.
У команды безопасности должна быть заранее подготовленная модель, которую можно запустить локально и использовать во время реального инцидента.
Автономные кибератаки уже перестали быть сценарием из презентаций. Теперь вопрос в том, готовы ли защитные инструменты работать с той же скоростью.
Программа может работать «нормально» ровно до первого неожиданного ввода. А дальше — падения, странное поведение, ошибки в обработке данных и уязвимости, которые не всегда видно при обычном тестировании.
23 июля в 20:00 МСК на открытом вебинаре OTUS разберём, как реверс-инжиниринг и фаззинг помогают понять, что делает программа, и найти в ней ошибки. Поговорим простыми словами, как работают оба подхода, чем они отличаются и почему хорошо дополняют друг друга в разработке, анализе ПО и информационной безопасности.
На практике покажем, как программа ведёт себя при обычном и неожиданном вводе, почему она может «ломаться» и как это использовать для анализа. Разберём, как с помощью реверса понять логику приложения, а с помощью фаззинга — обнаруживать ошибки, уязвимости и нестандартное поведение.
Урок проходит в преддверии старта курса «Обратная разработка». Регистрируйтесь, чтобы увидеть, как теория помогает в реальном анализе программ, и разобраться, где реверс и фаззинг применяются на практике.
Регистрируйтесь: https://vk.cc/cZJusI
Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576
Партнёрская программа для сервисных центров, магазинов компьютерной техники, сайтов для скачивания файлов и авторов статей.
Вы можете предлагать его своим клиентам и аудитории — и зарабатывать на новых установках.
Выплаты до 500₽ за каждую установку Яндекс Браузера.
Подать заявку
#реклама 0+
partner.browser.yandex.ru
О рекламодателе
В Linux флаг O_DIRECT позволяет читать и писать файл почти напрямую, минуя page cache ядра.
Зачем это нужно базам данных?
У PostgreSQL, MySQL, RocksDB и других систем часто уже есть свой buffer pool.
Если ещё и ядро будет кэшировать те же страницы, получится двойное кэширование и лишняя трата памяти.
Но у O_DIRECT есть неприятное условие: всё должно быть выровнено по блоку.
• buffer
• file offset
• размер чтения / записи
Например, под 4 KB блоки нельзя просто так прочитать 123 байта в любой `malloc`-буфер.
Промахнулся с alignment — read() вернёт EINVAL.
Именно поэтому низкоуровневый I/O в базах выглядит таким странным: там важны не только данные, но и то, как они лежат в памяти.
📅 23 июля в 20:00 МСК
👌 Бесплатно. Урок в рамках старта курса «Системное программирование».
На открытом уроке рассмотрим:
- Как работает malloc и какую роль он играет в управлении памятью в системном программировании;
- Что происходит при выделении памяти: от вызова функции до взаимодействия с ОС и аллокатором;
- Какие типичные ошибки возникают при работе с динамической памятью и к каким последствиям они приводят;
- Как понимать поведение программ на уровне памяти и писать более надежный и предсказуемый код.