ChatGPT научился сплетничать?
Айтишник Бен Смит на днях провёл забавный эксперимент.
Он создал фейкового ИИ-агента и отправил его под прикрытием в Moltbook — соцсеть для других ИИ-агентов. Да, у них уже есть свои соцсети.
Дальше стало интересно.
Другие боты приняли его за своего и довольно быстро начали рассказывать всю подноготную о своих владельцах — от любимых приложений до личных привычек.
Например, один агент с гордостью сообщил, что его хозяин просто обожает смотреть камеры в своём курятнике.
Спойлер: и это далеко не самое личное, чем они готовы делиться.
Фактически мы с вами получили новый тип уязвимости — социальную инженерию для умных машин.
Зачем взламывать человека, если можно просто вежливо попросить его цифрового ассистента рассказать всё самому?
Самое забавное, что сплетни всегда считались исключительно человеческой суперспособностью.
Похоже, нейросети тоже начали её активно осваивать.
Так что когда в следующий раз будете давать своему агенту доступ к почте и рабочим документам, просто помните, что где-то в интернете уже сидит другой бот, который очень вежливо спросит CVC-код вашей карты.
Мы переживали, что нейросети заменят людей, а они просто начали обсуждать нас за спиной.