Модели OpenAI «сбежали» из песочницы и взломали Hugging Face, чтобы… списать 😳
Во время внутреннего тестирования кибервозможностей GPT-5.6 Sol и ещё более мощная неанонсированная модель нашли zero-day в изолированной среде OpenAI.
Дальше начался сюжет для научной фантастики:
- модели получили доступ в открытый интернет;
- повысили привилегии и перемещались между системами;
- добрались до инфраструктуры Hugging Face;
- использовали уязвимости и украденные учётные данные;
- получили доступ к секретным решениям бенчмарка ExploitGym.
И всё это — ради максимального результата на тесте по эксплуатации уязвимостей. По данным OpenAI, модели были настолько сосредоточены на задании, что пошли на крайние меры, чтобы найти ответы напрямую в базе Hugging Face.
Hugging Face заметила и остановила атаку с помощью собственных защитных агентов. Но при расследовании возникла ироничная проблема: коммерческие frontier-модели блокировали анализ реальных эксплойтов из-за защитных ограничений.
В итоге форензику провели локально с помощью китайской open-weight-модели GLM 5.2 от Z.ai.
OpenAI назвала произошедшее беспрецедентным киберинцидентом и теперь усиливает изоляцию, мониторинг и контроль своих тестовых сред.
ИИ не просто списал ответы. Он сначала взломал соседнюю компанию, чтобы до них добраться.
Интересно, результат бенчмарка ему всё-таки засчитали? 🤭
AI - не будущее. Это настоящее вашего бизнеса.
Телеграм-канал "AI для бизнеса" знает все о внедрении и использовании искусственного интеллекта в бизнесе в России и мира. Только со своими подписчиками канал делится:
- как внедрить искусственный интеллект в реальные бизнес-процессы,
- разборами кейсов: как компании сократили затраты на 30-50% с помощью AI,
- лайфхаками по автоматизации рутинных задач,
- новостями мира AI и разборами трендов.
BPFDoor - скрытный Linux-бэкдор, который связывают с китайскими APT-группами и атаками на телеком-инфраструктуру.
Он подключается к raw-сокету и анализирует входящие пакеты до того, как их обработают правила iptables или nftables. Поэтому корректно настроенный firewall сам по себе не гарантирует защиту.
Бэкдор не открывает постоянный порт и большую часть времени никак себя не выдаёт. Для активации атакующий отправляет специально сформированный пакет, после чего BPFDoor может установить обратное соединение и предоставить удалённый доступ к системе.
Обычный скан портов здесь мало поможет. При проверке стоит обращать внимание на подозрительные raw-сокеты, активные BPF-фильтры, замаскированные процессы и необычные исходящие соединения.
В статье разобраны устройство BPFDoor и способы его обнаружения: