Скоро наступит эпоха “поразительно сознательного” ИИ — и это повод для тревоги
Мустафа Сулейман, CEO Microsoft AI, написал сильное эссе про ИИ. Он считает, что в ближайшие 2–3 года могут появиться системы, которые будут казаться сознательными, но на самом деле не будут таковыми. Он называет это Seemingly Conscious AI (SCAI) — «поразительно сознательный ИИ».
В чём риски:
— Иллюзия сознания. Такие системы смогут имитировать память, эмоции и эмпатию настолько убедительно, что люди начнут верить, будто ИИ обладает личностью, а не просто алгоритмом.
— Психологические риски. Сулейман предупреждает о феномене «AI psychosis» — когда люди теряют связь с реальностью, начинают воспринимать ИИ как друга, советчика или даже божество.
— Этические ловушки. Если многие начнут считать ИИ сознательным, это может привести к требованиям предоставить ему права или даже гражданство — что Сулейман считает опасным поворотом.
Что делать:
— Разработать чёткие границы. ИИ — это инструмент, а не личность. Компании не должны использовать формулировки, которые наделяют ИИ сознанием.
— Создать нормы и практики защиты пользователей. Нужно разрабатывать принципы безопасного дизайна, которые подчёркивают разрыв между эмоциональной симуляцией и реальным сознанием, чтобы снижать иллюзорную привязанность к ИИ.