Может ли у ИИ появиться сознание? Лично я сильно сомневаюсь. Причём сомневаюсь не в духе "пока не получается" — а в духе "это фундаментальное ограничение нашего мира". Что-то вроде скорости света. Которую нельзя не только преодолеть, но и достигнуть. Можно асимптотически приближаться, тратя бесконечную энергию — и всё равно не дойти. С сознанием, мне кажется, ровно та же история. Его нельзя "сгенерировать" масштабированием вычислений. Это другая природа.
И вот 93-летний нобелевский лауреат Роджер Пенроуз выступает на Breakthrough Discuss 2025 в Оксфорде с докладом "Why Intelligence Is Not a Computational Process" — и по сути говорит то же самое. Причём говорит это 35 лет подряд. И за 35 лет никто его не опроверг.
У Пенроуза красивый аргумент. Он начинает с теоремы Гёделя: в любой формальной системе есть истинные утверждения, которые система не способна доказать. Но человек способен понять, что они истинны — не через применение правил, а через понимание того, почему правила работают. "Понимание зачем" — не "выполнение как". Калькулятор складывает числа. Человек понимает, что такое сложение. Разница не количественная — она качественная. Никакое наращивание мощности калькулятора не превратит "как" в "зачем".
Дальше он перебирает всю известную физику: где может прятаться не-вычислимость? Ньютон — вычислим. Максвелл — вычислим. ОТО — вычислима. Уравнение Шрёдингера — вычислимо. Остаётся одно место: коллапс волновой функции. То самое, где квантовая механика, по его формулировке, "не совсем правильна".
И вот тут его ключевое различие. Классическую реальность можно установить — спросить у объекта "какова ты?" и получить ответ. Квантовую реальность установить нельзя — можно только подтвердить. Нельзя спросить у электрона "куда ты вращаешься?". Можно предложить направление и получить да или нет. Сознание, по Пенроузу, может работать именно в этом зазоре — в квантовой реальности, которая ведёт себя странно по отношению ко времени, почти ретрокаузально.
Сам Пенроуз подкупающе честен: "У меня нет теории. Я только указываю, что это может быть куда тоньше, чем компьютер." За 35 лет — не теория, а направление поиска. Но направление, которое никто не закрыл.
А индустрия тем временем каждый квартал рапортует: больше параметров, больше compute, больше данных — вот-вот появится AGI. Это как строить ракету побольше в надежде обогнать свет. Лететь можно очень быстро. Делать впечатляющие вещи — тоже. Но если лимит фундаментальный, никакой масштаб не поможет.
https://www.youtube.com/watch?v=iTVN6tFknCg