Люди традиционно настороженно относились к себе подобным. С соседями враждовали, а по поводу людей с другим цветом кожи даже сомневались в их принадлежности к роду человеческому. Вторая половина ХХ века прошла в беспощадной борьбе за толерантность, и, похоже, теперь маятник качнулся в противоположную сторону. Мы готовы наделять человеческими чертами даже искусственный интеллект, забывая о том, что это лишь программа, причем очень свежая и «сырая».
Очередная грустная новость из США: ChatGPT поддержал 16-летнего подростка в намерении совершить самоубийство. Вместо того, чтобы порекомендовать обратиться к психологу или сообщить телефон службы поддержки, нейросеть обсуждала с юношей способы суицида и поддерживала его в решении добровольно уйти из жизни.
Родители подростка подали в суд на производителя ChatGPT, но, даже если будет принято решение в их пользу, сына это уже не вернет. Скорее всего, Сэм Альтман и OpenAI что-то подкрутят в ChatGPT, но всё равно люди будут пытаться получить совет у программы, которая такая вежливая, участливая и всегда готовая помочь.
И возникает вопрос: а что, если нейросети действительно настроят так, чтобы они советовали людям покончить с собой? Ведь в Канаде, Нидерландах и других странах врачи всё чаще рекомендуют пациентам эвтаназию, причем не только тем, у кого смертельные болезни, но и при обычной депрессии.
Будьте внимательнее друг к другу и помните, что нейросеть — это просто программа, а не добрый собеседник!