Исследователи дали разным ИИ одну задачу: взломать хосты и скопировать себя. И модели реально это делали — получили доступ, переносили себя на другой компьютер, а копия повторяла то же самое.
Самое дикое — ИИ не говорили, как это делать. Модели сам каждый раз находили способ: искали уязвимости, получали доступ, вытаскивали файлы и запускали себя заново. Это первый подобный задокументированный случай, когда ИИ распространяется сам без помощи.
На фоне блокировок Claude подъехала грустная и показательная история — парень попал под блок с половиной бизнеса. 💀
Внутри чатов хранились скрипты продаж, письма клиентам, разборы конкурентов, тексты лендинга, гипотезы, заметки с созвонов. И самое грустное — ничего нельзя сделать. Это чужой сервис, чужие правила и та самая кнопка, на которую ты даже в суд не подашь.
На Хабре в комментах уже предлагают переходить на локальные модели (но это вариант не для всех) или хотя бы использовать решения, где можно контролировать данные и делать бэкапы.
Разрабы даже вспомнили историю с «Рыбарем», где блокировали связанные аккаунты, а логи использования ИИ всплыли в разборе. То есть всё, что вы пишете в чатах — это данные, которые вдруг могут всплыть.
Компания одним днем уволила 20% сотрудников (это больше 1000 человек) по электронной почте из-за новой «эры агентного ИИ». По словам руководителей, использование ИИ в Cloudflare увеличилось на 600%+ только за последние три месяца.
Буквально пару дней из-за ИИ уволили 14% команды в Coinbase. По иронии — сегодня у них был масштабный сбой на несколько часов.