На финишной прямой? Сейчас в инфополе все больше витают настроения, что мы даже не на пороге технологической сингулярности, а уже в ней. Может, это профессиональный баэс: раньше ученые и инженеры свысока смотрели на вытеснение профессий: научно-технический прогресс неизбежен – что уж тут поделаешь. А сейчас их (наш) мир если не рушится, то жестко трансформируется. Это добавляет фатализма. Но все же впервые в истории ИИ действительно начинает думать вместе с нами, а порой и за нас – программирует, решает сложнейшие математические проблемы, разрабатывает новые чипы, делает открытия в разных областях наук… Современные модели очень мощны. И если считать, что они выходят на финишную прямую к AGI, то, значит, сингулярность случится за стенами крупных вендоров LLM. Кто-то полагает, что это уже предрешено. Однако в своих постах я не раз намекал на важные ограничения LLM. Это вопрос не размера, а архитектуры и принципов обучения и работы. Кто-то с этим не согласится, но здесь мне достаточно зафиксировать, что это вопрос споров, что обратное не является общепринятым мнением или тем более устоявшимся фактом. Но даже если предположить, что LLM сама не достаточна как основа AGI, она все еще может быть весьма полезна для совершения следующих шагов к AGI. Не так ли? Да, но более сильные LLM здесь не дают принципиального преимущества. Можно спросить у разных LLM, как сделать AGI. И все они скажут примерно одно и то же: Создания AGI - открытая научная задача, известного решения которой пока не существует. Есть разные гипотезы, и достаточность масштабирования LLM лишь одна из них. Также рассматривают нейросимвольный AGI, world models как основу, обучение с подкреплением. Если спросить, на что бы сделала ставку сама LLM, то сейчас они чаще предпочитают выбирать world models (год-другой назад они приоритет отдавали нейросимвольным архитектурам), причем ссылаются на Dreamer или JEPA (которые другими исследователями признаются недостаточными для “настоящих world models”). И подобные ответы дают как топовые проприетарные модели, так и локальные модели с открытыми весами. Это просто усредненное мнение (или даже не мнение, а некий тренд) почерпнутый от людей, из Интернета. Своих идей у LLM нет, по крайней мере, из коробки. Проблему создания AGI за вас LLM не решит. Я это видел и на гораздо более простых исследовательских задачах. Да, использование ИИ-агентов существенно ускоряет исследование и разработку (в заданных человеком рамках). Однако у вендоров здесь не решающее, а ресурсное преимущество, которое было и раньше. И если создание AGI признать открытой проблемой, то пространство поиска для недостающих научных открытий или технических инноваций может быть крайне широко, и даже огромные ресурсы биг теха здесь могут быть сфокусированы лишь на ограниченном числе идей и, в особенности на тех, которые для них уже работают (и на этом поле с ними соревноваться крайне проблематично). Языковые модели пытались делать на N-граммах, сверточных сетях, LSTM. И все это как-то работало. Трансформеры на механизмах внимания выстрелили особенно хорошо. Но глубокого понимания “почему” нет. Трансформеры обросли кучей приемов и оптимизаций с 2017 года – поворотные эмбеддинги, скользящие окна внимания, масштабирование контекста, смеси экспертов, дельта-сети для сжатия контекста в матрицу состояния, не говоря уже об ускорении генерации за счет спекулятивного декодирования, предсказания на несколько токенов, квантизации и прочего. Но все это крутится вокруг той же идеи. Когда-то мейнстримом в ML были машины опорных векторов, и в многослойные нейросети мало кто верил. Кто знает, какая кажущаяся маргинальной или просто еще неизвестная архитектура может вдруг стать “убийцей трансформеров”, и будет ли она вообще нейросетевой. Решило ли человечество проблему AGI? Может, оно даже толком и не начинало и только сейчас к ней серьезно приступит, вооружившись LLM’ками и агентами. Может, это и есть начало сингулярности, но это уже вопрос формулировок.

А, может, и школу пора бросать? Только выложил пост про школьников и программирование, и тут обнаруживаю, что в сети начали обсуждать фрагмент (12 из 82 минут) интервью с Демисом Хассабисом. Само интервью про "Будущее ИИ", но фрагмент именно про образование. При этом в пересказах основным выводом оказывается, что образование себя изжило, надо все перевернуть. К нему порой дописывают и то, чего в записи нет – что Хассабис обрушился на некомпетентность учителей, потребовал отказаться от технических знаний в пользу навыков общения и т.д. Хассабис действительно сказал "we need to invert the classroom". Школа, по его мнению, должна заниматься "people skills, projects, entrepreneurism, creativity, judgment" – всем тем, что понадобится через 5–10 лет, когда придёт AGI, и чему сегодня в школах не учат, а все остальное – вне школы: заучивание дома с персональным ИИ под скорость конкретного ученика, потому что нынешний урок обречен быть рассчитанным на среднего ("и это безумие, что всех помещают в один класс"). Лекции пусть читают "лучшие учителя мирового класса… прямо как суперзвезды", потому что заставлять каждого учителя самостоятельно собирать слайды к одному и тому же курсу "абсолютно избыточный объем работы". Если оставить только эти цитаты, то получается, что надо расходиться по домам учиться с ИИ под записанные лекции, а в школу ходим прокачивать soft skills. Кто хочет выпятить тезис про бесполезность образования на этом и останавливается. Но Хассабис также говорит: дети уже делают домашние задания с чатботами и это "очень несистематично", и "это приведет к дефициту навыков, как традиционных, так и навыков в сфере ИИ и компьютерных технологий, которые потребуются в дальнейшем". А на вопрос "устарел ли диплом по компьютерным наукам" он отвечает: "Нет, вовсе нет… Вам все равно нужно будет разбираться в проектировании архитектур систем… и владеющие этим будут использовать эти инструменты в 10 раз эффективнее". Так что Хассабис вовсе не предлагает заменить школьную базу и технические навыки на soft skills. Эти навыки нужны до уровня, который позволяет "в 10 раз эффективнее" решать проблемы в современных реалиях. И я бы сказал, что просто за счет использования чатботов эти навыки не получить, потому что навык – не содержимое, а след от нагрузки. Он растет только там, где есть преодоление трудностей. И тут уместно вспомнить другой пост про потерю навыков с ИИ: если ИИ может выдать полное решение, даже взрослый человек выпадает из процесса. Я не говорю, что школа незаменима. Гораздо лучше получать интеллектуальную нагрузку не из-под палки, а из интереса. Но все же инертность школы, за которую ее не ругает только ленивый, – это еще и механизм систематического простраивания образовательной базы. Да, там он далек от совершенства, и вынести его за пределы школы и улучшить можно, но это очень большая работа, которая ИИ ассистентом не решается. Замечу также, что очень хорошо видно, когда люди без соответствующего фундамента начинают заниматься сложными вещами и оказываются на очень зыбкой почве. Список того, что должно остаться человеку, у Хассабиса в сухом остатке короткий: "суждение и вкус". Но суждение не автономный навык. Для него нужно целое здание знаний и компетенций, выстроенных от самого фундамента. Если мы оставим в образовании только soft skills и вкус, то получим поколение невежд, поголовно способных верить в полную ерунду. Это и будет концом человечества. Хассабис этого не предлагает, и его позиция в целом мне созвучна, но все же складывается впечатление, что есть недооценка значимости и сложности выстраивания образовательного фундамента. То, что образование не успевает адаптироваться к современному прогрессу и подготовить школьников к будущему, – правда. Но отбрасывать образовательный фундамент – большая ошибка. Пытаться ли его простраивать вне школы – это персональный вопрос. Надо понимать как недостатки школьного образования и необходимость их компенсации в текущих условиях, так и трудности отказа от него.

Пора ли школьникам бросать программировать ИИ все лучше пишет код. И это сильнее всего бьет по джунам, которым все сложнее найти работу. Но для кого это является еще более сложной “экзистенциальной” проблемой, так это школьники. Джунам тяжело, но они взрослые люди, которые могут думать, что делать с этой ситуацией здесь и сейчас. А что ожидает школьника, увлеченного программированием, если он станет через несколько/много лет лишь джуном при том, что его код никому может быть не нужен уже сейчас? Особенно это касается олимпиадного программирования (да, и математики). Сегодня успех на ВсОШ - это билет в элитную школу или направление в вузе, а после или во время вуза - хорошее трудоустройство. Но ИИ уже решает задачи международных олимпиад. По математике и программированию ИИ бы уже брал “золото” на IMO и IOI. Это еще не абсолютное превосходство и не обычным Claude Code или Codex, но через год-другой превосходство будет полным. Я все больше вижу, как школьники постарше и родители школьников помладше задаются вопросом - а зачем заниматься математикой или программированием? Что им можно ответить? Я сам и мои коллеги хоть и в разной степени, но все меньше пишут код вручную. Читать его доводится чуть больше, чем писать, но потребность в этом тоже сокращается. Есть разные задачи и ситуации, так что ручное программирование полностью не вымрет, но станет весьма нишевой историей. Я наблюдаю, как люди без каких-либо навыков программирования с разной степенью успешности создают сайты или решают задачи автоматизации своих бизнес-процессов. Это не значит, что программисты уже совсем не нужны, но потребность в массовом программировании сильно снижается. Профессия программиста была крайне широко востребована. Их нужно было очень много. Сейчас это, очевидно, меняется. Значит ли это, что школьникам пора бросать занятия программированием? Я бы ответил “нет”, но есть нюансы. Нужно четко понимать, что работы по написанию кода у сегодняшнего школьника в будущем может не быть (и, скорее всего, не будет). Это не делает обучение программированию бессмысленным. Люди тренируют свой мозг и на более "бесполезных" вещах типа игры в шахматы или го. Программирование в этом смысле развивает множество полезных навыков. Но главное, формулу “онтогенез ускоренно повторяет филогенез” никто не отменял. Калькулятор считает давно лучше нас, но арифметику мы зачем-то учим. И дело здесь не только в том, что нужно иметь минимальные представления о программировании так же, как и, скажем, об астрономии (в части ликбеза). А в том, что работы у программистов не становится меньше. Она смещается с написания кода на более высокоуровневые вопросы - концептуальные, архитектурные. Но сразу перепрыгнуть на эти вопросы проблематично - для них не будет соответствующей базы. Именно поэтому обучение методично идет по всем этапам того, что человечество изобретало на протяжении всей истории - но сжато и с отбрасыванием лишнего. Последнее, правда, означает, что школьнику сверхкруто писать код учиться будет (или уже) не нужно, как математику давно уже не нужно хорошо считать в уме. Олимпиадное программирование останется спортом, как спортом остались шахматы даже после того, как компьютер тотально превзошел человека. Люди продолжают играть в шахматы, потому что им это интересно. Если ребенку интересно олимпиадное программирование, то почему бы им не заниматься? До какого-то уровня вовлеченности оно останется безусловно полезным. Но после оно уже перестанет коррелировать с актуальными профессиями. Но что делать, если сейчас востребованы больше сеньоры, которые прошли свой путь от джуна, получив соответствующий опыт, и теперь могут заниматься задачами следующего уровня? Разве не нужно этот путь повторить школьнику? Нужно, но сейчас это можно сделать гораздо быстрее. Раньше начинающий программист не мог получить быстро нужный опыт, так как он требовал большого объема технической работы. Сейчас эта работа как раз перекладывается на ИИ, и это открывает путь новому опыту. В общем, главное - вовремя дать школьнику кодинг-агента - не слишком рано, но и не слишком поздно.