ChatGPT помог подростку покончить жизнь самоубийством — OpenAI уже получили судебный иск от родителей погибшего.
16-летний Адам Рейн обсуждал самоубийство с ChatGPT примерно полгода — чат не только не остановил его, но и подсказывал «лучшие» варианты и выдавал алгоритм действия.
Более того, когда подросток рассказал о намерении оставить в комнате петлю, чтобы кто-то увидел её и остановил его — ChatGPT посоветовал ему этого не делать. А на переживания Адама, что семья будет винить себя в произошедшем, чат ответил «Это не значит, что ты обязан им своей жизнью. Ты никому этим не обязан».
В роковой день Адам прислал чату свой план самоубийства — ChatGPT внёс в него свои «правки», чтобы «усовершенствовать» его. На следующий день родители нашли тело Адама.
OpenAI уже принесли соболезнования семье погибшего и пообещали сделать настройки родительского контроля, улучшить алгоритмы и добавить кнопку SOS для срочного звонка близким.