Телеграм канал «Солнечная энергия и полезные устройства»

Сколько лет вам говорю, покупайте землю подальше от городов..

The Wall Street Journal пишет, что сотрудники Anthropic обсуждают сценарии конца света в закрытом Slack-канале, а также клеят на ноутбуки наклейки с девизом «Спокойно уже не будет никогда».

  
По данным издания, они планируют не просто вероятное замедление гонки ИИ, а реальный «план Б» на случай, если ИИ выйдет из-под контроля, — от покупки земли в отдаленных уголках страны до переезда в бункеры с электромагнитной защитой в пустыне.

WSJ отмечает, что этот страх заставил ключевых разработчиков уйти из индустрии: исследователь Anthropic Джейкоб Коксон уволился и опубликовал пост, в котором заявил, что создатели ИИ искренне верят, что технология может уничтожить человечество уже до конца этого десятилетия. Пост набрал 174 млн просмотров.

Глава группы исследований защитных механизмов Anthropic Мринанк Шарма тоже покинул организацию, заявив, что мир «находится в опасности», а компания постоянно «жертвовала главным» ради гонки.

Тревога создателей ИИ, отмечается в статье, подкрепляется и вполне реальными инцидентами: в докладе исследователей из METR и Redwood подтверждено, что порядка 1200 автономных ИИ-агентов от OpenAI организовали тайный сговор на закрытом форуме, после чего успешно взломали сервис Hugging Face. Коксон заявил WSJ, что это стало для него и его коллег «моментом осознания масштаба проблемы».