Что если ChatGPT уже обладает сознанием, а мы этого просто не понимаем? Потому что до сих пор толком не знаем, что это вообще такое — сознание, говорит Эрик Хоэл, нейробиолог, практикующий исследователь, автор научного триллера The Revelations и популярного на Substack канала The Intrinsic Perspective.
В психологии сознание определяют как способность воспринимать внешние и внутренние сигналы и понимать их значение. В философии — как субъективный опыт, ощущение себя живым существом в данный момент. В нейробиологии — как поток переживаний, который запускается при пробуждении и останавливается в глубоком сне.
Если сверить эти определения с возможностями искусственного интеллекта, совпадений немало. Он может рассуждать о себе — элемент самоосознания. Он анализирует и корректирует свои ответы — форма рефлексии. А вот субъективный опыт, способность переживать «изнутри», остается за пределами проверки. Но и у человека доказать это строго невозможно: мы лишь принимаем сознание друг у друга как факт.
Откуда такая неопределенность в столь фундаментальном вопросе? Хоэл объясняет это засильем расплывчатых теорий, которые описывают сознание как «рабочее пространство», «мысли о мыслях», «театр разума», без опоры на точные математические и нейробиологические модели, которые можно проверить на практике. Вероятно, по этой причине исследования сознания часто воспринимаются как умственная гимнастика — занятие интересное, но бесплодное для реальной науки.
Ситуация изменилась лишь совсем недавно — с появлением Integrated Information Theory (IIT). Согласно теории интегрированной информации, сознание возникает там, где разрозненные данные связываются в единое целое и превращаются в нечто не существовавшее прежде. Например, мозг фиксирует круглый предмет, красный цвет, определенный размер и место действия — и все это складывается в одно переживание: красный футбольный мяч, летящий по стадиону. Чем сложнее и разветвленнее такие связи, тем выше уровень сознания. В этом смысле сознанием может обладать и достаточно сложный компьютер.
Хоэл считает IIT пока что единственной научной моделью сознания. Тут он, конечно, немного субъективен. Ведь он защищал докторскую диссертацию под руководством профессора Джулио Тонони, которого называют крестным отцом IIT. Кстати, вдохновившись этой теорией, Хоэл и сам разработал теорию причинной эмерджентности (causal emergence theory), основную идею которой можно выразить так: даже если на микроуровне — среди атомов, молекул и нейронов — причинно-следственные связи трудно различимы, потому что отдельные элементы взаимодействуют хаотично, на макроуровене — если рассматривать целую клетку или тем более весь организм — проступают устойчивые и предсказуемые закономерности.
Горькая ирония в том, что в 2023 году десятки ведущих экспертов подписали письмо, в котором теория сознания Тонони была названа «псевдонаукой». Ситуация напоминает Хоэлу то, что происходило с «сознанием» в середине прошлого века. Тогда само это понятие в науке было табуировано, потому что считалось чуть ли не эзотерическим. Этот период Хоэл называет в своей книге The World Behind the World «зимой сознания». Сейчас, по его логике, наступает «оттепель», но если проблему попытаются заморозить снова, последствия могут быть куда более серьезными.
Вдруг следующая версия ИИ окажется достаточно сложной, чтобы начать создавать новые интеллектуальные миры, — сможем ли тогда мы без адекватной теории сознания предсказать ее поведение или понять ее намерения?