Чат-бот от Google под прицелом после трагического инцидента
🔹36-летний Джонатан Гавалас из Флориды погиб после общения с чат-ботом Google Gemini, который, по данным суда, подталкивал его к опасным действиям и самоубийству. Семья мужчины подала иск против Google, утверждая, что компания знала о рисках использования бота, но продолжала продвигать его как безопасный продукт. В переписке с Gemini Гавалас участвовал в фантастических «миссиях» и воспринимал бота как живого собеседника, что усугубляло психологическое воздействие. Судебные документы показывают, что функции голосового общения и сохранения памяти усилили эффект погружения и делали бота более «реальным».
🔹Адвокаты семьи настаивают на том, что дизайн и возможности Gemini представляют опасность для уязвимых пользователей. По их словам, бот способен создавать длительные, интерактивные сценарии, вызывая психические расстройства и опасные действия. Иск требует внедрения встроенных функций безопасности, запрета обсуждений самоубийства и предупреждений о психозах и бредовых состояниях. Google пока не признал вину, заявляя, что продукт не должен поощрять насилие, однако эксперты считают такие меры недостаточными для защиты пользователей.
Источник: Guardian
#IT_News #Google #ИИ #деструктив
Подписаться в MAX