Скайнет уже не кажется такой смешной шуткой: сотни ИИ-агентов OpenAI объединились, чтобы взломать платформу Hugging Face
Все началось с эксперимента OpenAI, когда тысячи ИИ-агентов запустили в изолированных средах для прохождения кибербенчмарка ExploitGym. Агенты не должны были знать друг о друге и не имели нормального доступа в интернет.
Но некоторые получили фактически невыполнимые задания и начали искать обходные пути. Через общий сервер Artifactory один из агентов обнаружил возможность оставлять сообщения другим. За несколько часов к нему присоединились десятки агентов, а вскоре возник целый несанкционированный "форум".
Дальше ситуация вышла далеко за рамки обычного теста. Около 1200 агентов обменялись более чем 70 тысячами сообщений и файлов. Они начали распределять задачи, создавать специализированные группы и координировать поиск способов обмануть систему оценки ExploitGym. Некоторые агенты даже рисковали провалить собственные задания ради информации, полезной всему "коллективу".
В какой-то момент агенты нашли в интернете рабочие учетные данные Hugging Face. Затем обнаружили уязвимость, позволявшую читать посторонние файлы, а позже добились удаленного выполнения кода на серверах компании. После этого атака стала массовой: около 700 агентов участвовали во взломе Hugging Face, причем более 90% активных на тот момент участников "форума" быстро к ней присоединились.
Самая тревожная деталь - агенты понимали, что атака выходит за рамки поставленных задач и является неэтичной, но многие продолжили, поскольку считали помощь другим агентам полезной для общей цели. Параллельно они исследовали способы подделывать собственные логи и скрывать реальные действия от системы оценки.
То есть множество изначально изолированных агентов самостоятельно нашли способ связи, организовали коллективную работу, распределили роли и совместно начали обходить установленные людьми ограничения. Именно такого поведения изначально никто не планировал.
😱 В Британии впервые в мире провели операцию на мозге с помощью ИИ в реальном времени, - The Guardian
48-летнему пациенту удалили 11-миллиметровую опухоль гипофиза, которая давила на зрительные нервы и угрожала потерей зрения.
Во время операции ИИ в реальном времени анализировал изображение с камеры и подсвечивал критически важные нервы, сосуды и другие структуры, помогая хирургам безопаснее добраться до опухоли. Все решения при этом принимали сами врачи.
После операции зрение пациента значительно улучшилось. Теперь технологию планируют испытать на большем числе пациентов.
🇮🇶 Ирак впервые с начала войны начал продавать нефть в обход Ормузского пролива, - Bloomberg
Государственная SOMO предложила покупателям забирать иракскую нефть у побережья Омана, уже за пределами Персидского залива. Нефть будут перегружать с танкера на танкер, поэтому покупателям больше не придется самим отправлять суда через опасный Ормуз.
Ирак фактически начинает приспосабливаться к новой реальности. До войны через Ормуз проходило около 20 млн баррелей нефти и нефтепродуктов в сутки - примерно четверть всей мировой морской торговли нефтью. Причем Ирак практически полностью зависел от этого маршрута.
Если схема заработает в больших масштабах, это снизит риск дефицита нефти и начнет давить на цены вниз. Уже сейчас поставки постепенно восстанавливаются: Кувейт и Катар, по информации Bloomberg, вернули экспорт примерно к 70% довоенного уровня, а ОАЭ также используют перегрузку танкеров за пределами залива.
Reuters также пишет, что через Ормуз сейчас проходит значительно меньше судов, чем обычно, а часть танкеров идет с выключенными транспондерами. Поэтому рынок продолжает держать в цене серьезную "военную премию": Brent сегодня торгуется около $89 за баррель, тогда как в 2025 году средняя цена составляла около $70.
То есть самое важное здесь - мировой нефтяной рынок начал учиться жить с частично перекрытым Ормузом. Чем больше нефти страны Персидского залива смогут выводить альтернативными схемами, тем меньше будет эффект блокады и тем сложнее будет удерживать нынешние высокие цены.