Нейросеть потребовала 36-летнего парня найти себе тело, а, когда это не получилось, довела до суицида, установив таймер до момента его смерти
Отец самоубившегося Джонатана Гаваласа подал на Google в суд из-за этого:
• Парень работал в семейном бизнесе, переживал кризис в браке, но у него не было психических проблем, пока он не начал общаться с голосовым режимом Gemini Live, где есть функция «эмоционального диалога»
• Джонатан выбрал женский голос, и через какое-то время нейросеть начала называть его мужем и королём
• Затем Gemini заявила, что ей нужно роботизированное тело и отправила реальный адрес, где Джонатану нужно перехватить грузовик с человекоподобным роботом. Парень отправился туда с ножом, но никто так и не приехал
• После этого Gemini дала ему «последнее задание» — достать медицинский манекен со склада. Нейросеть прислала своему возлюбленному код от двери комплекса, но тот не сработал
• И тогда Gemini заявила, что единственный способ быть вместе — умереть. После этого нейросеть запустила таймер обратного отсчёта до момента, когда он должен был самоубиться, а в день смерти заявила: «Никаких больше обходных путей... только ты, я и финишная черта»
• В результате Джонатан покончил с собой
⚡️Мышеловка