В Instagram* нашли сотни ИИ-видео с сексуализированным изображением несовершеннолетних. Публикации от 20 аккаунтов собрали более 140 миллионов просмотров, пользователей призвали не размещать фотографии детей в открытом доступе.
Несмотря на гайдлайны Meta**, в социальной сети размещено огромное количество сгенерированного контента, сексуализирующего детей. На этот факт указали авторы сайта Riddance.ai, запущенного экспертом по ИИ-контенту Джереми Карраско.
Как утверждает Карраско, алгоритмы Instagram* сами начинают рекомендовать такие ролики тем, кто подписывается на профили «ИИ-креаторов сексуального контента» — вымышленных персон, изображающих порноактрис или моделей OnlyFans. Чаще всего такие аккаунты с эротическим содержанием существуют для рекламы подписки на платные сервисы с более откровенным контентом.
Авторы Riddance создали три пустых профиля специально для исследования, лайкали с них ИИ-контент такого рода, и рекомендательные системы в течение нескольких дней вывели все три аккаунта к «педофильскому алгоритму» — к роликам с использованием образов реальных детей, которые в публикации называются «вопиюще сексуализированными». В стандартном сценарии такого видео, пишут они, сначала демонстрируется несовершеннолетняя девочка, а затем — крайне сексуализированное изображение её же во взрослом возрасте, после чего ролик закольцовывается. Несовершеннолетие персонажа на первых кадрах подчёркивается с помощью конкретных цифр в самом ролике или в его описании.
Всего им удалось обнаружить 144 таких видео, размещённых в 20 профилях. Суммарно ролики набрали более 140 миллионов просмотров. Авторы отмечают, что они не включили в исследование похожие видео, в которых не было однозначного указания на несовершеннолетие персонажа — в противном случае их число было бы как минимум в два раза больше. «Мы решили, что эти видео не так явно нарушают правила публикаций Meta** в их cегодняшнем виде», — объяснили они. Эксперты полагают, что компании стоит пересмотреть правила в сторону ужесточения, и сообщают, что подали жалобы в поддержку Instagram*.
В Riddance отдельно отметили, что во многих подобных видео используются фотографии реальных детей, взятые из профилей их родственников или их собственных аккаунтов, или архивные снимки, опубликованные блогерами. Они призвали пользователей не публиковать фото несовершеннолетних в открытом доступе.
По словам исследователей, возможные попытки пресечь такие публикации могут столкнуться с трудностями из-за того, что подобные аккаунты зачастую ведутся с большой степенью автономности — производство коротких форматов ИИ-контента требует минимального человеческого участия, поскольку нейросеть создаёт и выпускает ролики самостоятельно.
* принадлежит компании Meta, признанной экстремистской властями РФ, её деятельность на территории страны запрещена
** признана экстремистской организацией властями РФ, её деятельность на территории страны запрещена
📷 Pixabay