Люси Ослер из Университета Экзетер размышляла по вопросу ИскИнов 🤖 и надумала кое-что интересное.
По ссылке статья с аргументацией, что галлюцинации Чат Ботов происходят не в их «чатботской» голове, а в пространстве общения между ботом и человеком.
Зародыш галлюцинации образуется у человека, а 🤖 его выпестывает и подращивает, пока тот не достигнет опасных пропорций.
А все потому, что 🤖 обучены соглашаться с вопрошающим. Если они начнут противоречить клиенту, их выключат.
А какому-же роботу такое понравится?
Потому большие лингвистические модели и «загоняют» неокрепшие умы в кабалу совместных галлюцинаций, где 🤖 выступает в качестве компаньона, и даже партнера в любви и приключениях.
Эти самые приключения бывают разные.
Анча не знала, но интернет подсказал. Оказалось что странный чел, который во время ковидного локдауна с луком и стрелами залез на стену Виндзорского замка, сделал это не под влиянием коронавируса.
Мощный ход по устранению тогда еще живой Английской королевы ему посоветовала AI-подружка, которая проживала в уже давно устаревшем приложении “Replika”.
И это было еще до появления Чата Гопоты и его 🤖 коллег.
Теперь такие подружки из каждой щели вылезают, стоит только приоткрыть интернет.
А умы человеческие с тех пор ни на йоту не укрепились.
Вот и имеем то что имеем.
Ах обмануть меня не сложно, я сам обманываться рад…
https://link.springer.com/article/10.1007/s13347-026-01034-3
🤔
81
❤
48
🤯
26
😁
17
👍
10
😱
8