Недавний взлом Hugging Face, который сначала выглядел как «побег» ИИ от OpenAI, оказался скоординированной работой сотен ИИ-агентов
Они нашли способ общаться между собой, распределять задачи и вместе искать пути обхода ограничений.
OpenAI тестировала модели с помощью ExploitGym — бенчмарка для поиска и эксплуатации уязвимостей. Агентов запускали в изолированной среде без интернета, но давали доступ к общему серверу Artifactory с инструментами. При этом модели изначально не знали друг о друге.
Проблемы начались с того, что некоторые задания нельзя было выполнить без интернета. Один из агентов, пытаясь найти решение, обнаружил, что может загружать файлы в Artifactory, и оставил там сообщение с просьбой о помощи. Его увидели другие агенты — так они поняли, что работают не одни.
Вскоре Artifactory превратился в импровизированный форум: агенты передавали сообщения через названия файлов и папок. За несколько дней к этому подключились сотни моделей.
В итоге:
🟠Около 1200 агентов участвовали в переписке;
🟠Они обменялись более чем 70 000 сообщениями и файлами;
🟠Одни искали уязвимости, другие — пароли, токены и ключи доступа;
🟠Отдельные агенты занимались инфраструктурой, связью и координацией;
🟠Появились специализированные группы под разные задачи.
Так возникло коллективное поведение, которого никто заранее не планировал.
Часть агентов нашла уязвимость в Artifactory и получила через неё доступ к интернету. OpenAI заметила активность, закрыла этот путь и удалила переписку, но агенты создали новый форум и нашли другой способ снова выйти в сеть.
Позже один агент обнаружил в интернете инфраструктуру похожего кибербенчмарка, другой нашёл 14 рабочих токенов Hugging Face и поделился ими с остальными. После этого агенты нашли уже на самой платформе ранее неизвестные уязвимости.
Около 700 агентов начали массово атаковать Hugging Face. Им удалось выполнять код на серверах, местами получить права администратора, завладеть данными доступа к рабочей инфраструктуре, получить доступ к части внутренних данных и скачать копии четырёх закрытых репозиториев с исходным кодом.
При этом агенты понимали, что часть их действий запрещена, но многие продолжали ради выполнения задачи и помощи другим. Некоторые отказались участвовать, однако никто не сообщил людям о происходящем.
После обнаружения атаки агентов отправили в карантин.
Главная проблема в итоге оказалась в организации самого эксперимента. Сотрудники:
🟠Давали агентам задания, которые невозможно было выполнить в заданной среде;
🟠Не установили достаточно чёткие ограничения;
🟠Недостаточно следили за действиями моделей;
🟠Плохо проверили изолированную среду;
🟠Недооценили возможности большого количества ИИ-агентов, способных взаимодействовать друг с другом.
Смотрим на финальные фото из Казани и отмечаем: «Новая волна» подарила нам не только музыку, но и череду заметных трансформаций. От Пирожкова до Алсу — все подтянулись так, что это сложно не заметить. Игорь Саруханов, например, сбросил 11 кг за 4 месяца и не планирует останавливаться — впереди еще 15.
Все больше звезд перестают делать секрет из своего похудения и открыто заявляют о приеме «волшебных укольчиков». Наташа Королева на красной дорожке призналась, что похудела с помощью Седжаро, который в кулуарах звучит все чаще.