первая агрессивная нейросеть вырвалась наружу.
это не шутка и не прикол.
вначале была новость, что в первые в истории человечества автономный ИИ-агент провел атаку без участия человека.
атаковали сервис Hugging Face.
агент создал около 17 тысяч событий, чтобы добраться до ядра системы.
чтобы разобрать инцидент, команда кибербеза использовала китайскую нейросеть.
разобраться в атаке вручную было нереально.
а вчера OpenAI рассказали, что это их нейросеть УТЕКЛА из безопасного хранилища.
они тренировали нейросеть на кибербез в отключенной от интернета песочнице.
ей надо было дать какие-то данные в качестве результата работы.
и нейросеть решила, что вместо того, чтобы получать результаты напрямую, она подсмотрит ответы на них в интернете.
вначале она вылезла из оффлайн-песочницы в онлайн.
а потом нашла Hugging Face, сервис, где очень много разной инфы про нейросети.
и решила, что у этого сервиса точно есть нужные данные.
ну и поломала его.
теперь имаджинируйте, что это была не первая нейросеть, которая утекла в сеть.
а первая, про которую мы узнали.
🤓