Телеграм канал «НОП.РФ»

Разговор о рисках ИИ все чаще упирается в сложную проблему: что происходит, когда система получает всё больше признаков самостоятельного действующего субъекта — планирует, использует инструменты и корректирует собственное поведение. О том, почему спор о безопасности ИИ нельзя сводить ни к алармизму, ни к чисто инженерной проблеме, — в комментарии доцента философского факультета МГУ Антона Кузнецова:
Заявления о рисках развития ИИ давно стали одним из модусов существования данной области и потому нередко воспринимаются скорее как маркетинг, нежели как выражение реальной обеспокоенности. Однако одно не исключает другого. В своём эссе от 12 сентября глава Anthropic Дарио Амодей указывает на два обстоятельства: растущую способность ИИ участвовать в создании систем следующего поколения (то, что он считает началом рекурсивного самоулучшения ИИ) и инцидент с Hugging Face, когда агенты OpenAI атаковали реальные системы и совершали действия, не предусмотренные задачей.

Эти обстоятельства показывают особенности проблематики безопасности ИИ. Часто говорят, что дело не в молотке, а в том, кто и как его применяет. Это верно. Но только до тех пор, пока «молоток» сам не начинает решать, как и какие действия ему осуществлять. Независимо от того, считаете ли вы системы ИИ «настоящими» агентами, а их решения — «настоящими» решениями, их существенное отличие заключается в том, что у них есть черты действующих субъектов: они планируют действия, используют инструменты, корректируют поведение и вступают во взаимодействие друг с другом. В настоящий момент, как подчёркивает Роман Ямпольский, не продемонстрировано ни одного способа, гарантирующего полный и устойчивый контроль над системой ИИ, превосходящей человека по своим когнитивным способностям.

Пока нельзя напрямую сделать вывод о реальной вероятности глобальной утраты контроля. Однако вопросы безопасности не решаются на основе чистой вероятности. Важно также понимать масштаб возможного ущерба и необратимость последствий. Например, вероятность авиакатастрофы мала, но масштаб и необратимость возможного инцидента оправдывают строгость регуляции. И напротив, вероятность запачкать одежду велика, однако незначительность возможного ущерба объясняет отсутствие сопоставимых мер «безопасности». В настоящее время надёжная эмпирическая оценка вероятности реализации рисков ИИ крайне затруднена в силу того, что сами риски не вполне конкретизированы, и в силу того, что пока, к счастью, история ИИ-катастроф небогата.

В этом смысле общая идея Дарио Амодея — привести скорость развития ИИ в соответствие со скоростью развития средств контроля — выглядит разумной и консервативной. Однако в отношении деталей всё уже не так однозначно. Если Сэм Альтман и Илон Маск выразили поддержку, то Марк Цукерберг и Дженсен Хуанг отвергли идею координированного замедления. Цукерберг считает, что конкуренция и юридическая ответственность уже создают у компаний достаточные стимулы самостоятельно обеспечивать безопасность. Хуанг, в свою очередь, полагает, что безопасность является инженерной проблемой и не требует замедления: компании должны не выпускать продукт, пока не уверены в его безопасности. Главное разногласие состоит в том, следует ли рассматривать последние инциденты как ранние признаки будущей утраты контроля или как серьёзные, но принципиально устранимые инженерные и организационные сбои.

Я бы сказал, что категория «замедления» проблемна сама по себе, как и общая идея координированной дружбы демократических государств против Китая, которая в итоге будет оправдывать (и уже оправдывает) отказ от любого реального замедления развития ИИ. В целом поиск некоторой рамки безопасности ИИ через создание чего-то вроде «тайного мирового правительства по ИИ» скорее в последнюю очередь будет связан с безопасностью. Однако здесь важнее сама дискуссия, нежели достижение одного суперрешения, которое пока представляется маловероятным и нереалистичным.

📎Подписывайтесь в MAX

Новый карбоновый этап

❗️В Минобрнауки обсудили развитие карбоновых полигонов.

✔️Заседание Экспертного совета по вопросам научного обеспечения развития технологий контроля углеродного баланса прошло под председательством главы Минобрнауки России Валерия Фалькова. В нем приняли участие помощник Президента России по вопросам изменения климата Руслан Эдельгериев, вице-президент Российской академии наук Степан Калмыков, представители научных организаций и университетов.

🔹Глава Минобрнауки определил главное направление – переход полигонов на распределенную цифровую платформу. Это позволит формировать цифровые двойники, проводить виртуальные эксперименты и создавать прикладные решения.

➡️В свое время карбоновые полигоны были одним из флагманских проектов. О них много говорили, а регионы старались открыть собственные. В итоге полигоны охватывают 19 регионов России и различные природно-климатические зоны, моря, болота, леса, луга и агроландшафты.

➡️С 2021 по 2026 год операторы полигонов привлекли более 1,7 млрд внебюджетного финансирования. Произведены закупки оборудования.
Карбоновые полигоны начали создаваться тогда, когда достаточно громко звучала экологическая повестка. Торговля квотами, углеродная нейтральность, исследования эмиссии и поглощения – все эти темы отошли на второй план как в вопросах высокой, так и научно-технологической политики.

➡️Вместе с тем полностью они не исчезли – Россия продолжает участие в международных структурах и мероприятиях по климатической повестке.
Полигоны же сосредоточились на внутрироссийской экологической повестке, также являясь пространством для тестирования отечественного оборудования.

➡️Сейчас идет попытка вдохнуть в проект новую жизнь, надстроив полигоны цифровой инфраструктурой, объединив их в некую достаточно крупную «установку». Второй год подряд РАН одобряет их работу. По итогам заседания принята Стратегия развития сети карбоновых полигонов на 2026-2030 годы.

🔗Подробнее.

#новостиНОП

📱НОП в ТГ | НОП в ВК | НОП в МАХ | Сайт НОП

АСИ – Минобрнауки: продвигая технопредпринимательство

❗️Валерий Фальков провел рабочую встречу с генеральным директором АСИ Светланой Чупшевой.

➡️Основной идеей среди всех обсужденных тем был трансфер технологий в производство через систему технологического предпринимательства. Собеседники договорились о том, что должна быть запущена единая, сквозная и цикличная система поддержки студенческих технологических проектов.

➡️Стартовать она должна с обучения технопредпринимательству, далее проходить через соответствующую Университетскую платформу, где в защищенных условиях возможно реализовать посевное финансирование. Однако, далее возможности Минобрнауки на границе с выводом на рынок иссякают. Именно здесь под методическим руководством АСИ должны быть поддержаны следующие этапы, включая получение инвестиций и широкое внедрение разработанных технологий и услуг. Пилот планируется «обкатать» в 5-10 ведущих вузах.

➡️Для поддержки молодых технологических компаний развивается механизм венчурных инвестиций. АСИ и Минобрнауки договорились о перезагрузке Российского венчурного форума.

➡️Также стороны обсудили возможность создания университетского венчурного фонда или более общей структуры в сотрудничестве государства и бизнеса.

➡️Предполагается в небольшой степени оптимизировать направления развития техностартапов. Предлагается, в частности, запустить форум «Вызов». На его базе планируется сформировать 5–7 конкретных технологических вызовов с определенными требованиями к решениям и потенциальными заказчиками. Стартапы будут конкурировать за возможность предложить решение, получить заказ и финансирование.

➡️Чем-то это напоминает Госзадание 2.0 и модель квалифицированного заказчика. Однако, не факт, что бизнес реально проявит интерес к конкурсу на высокорисковые инвестиции, будущее которых, независимо от отбора, сложно предугадать.

➡️С точки зрения инфраструктуры и институтов стороны обсудили формат малых инновационных предприятий как промежуточной стадии между стартапом и малой технологической компанией. Это уже не первый подход к снаряду МИП. В 2010 году по 219-му постановлению правительства уже разворачивалась система поддержки университетской инновационной инфраструктуры. Результаты получили сдержанную оценку экспертов.

🔗Подробнее.

#новостиНОП

📱НОП в ТГ | НОП в ВК | НОП в МАХ | Сайт НОП

Эндаументы – новый маяк образовательного бренда

❗️В Москве прошла экспертная сессия, на которой обсудили, как эндаументы укрепляют бренд образования и устойчивость вузов.

💬По итогам обсуждений ключевые данные:
🔹35% знают или слышали о ФЦК, 17% назвали хотя бы один фонд, 53% благотворителей осведомлены о ФЦК.
🔸Создание 8 региональных центров знаний, один уже функционирует на базе ЮФУ.
🔹До 2036 года планируется, что доля ФЦК в расходах вузов составит не менее 10%, в научной организации – не менее 5%.

➡️Примеры и перспективы:
🔸Фонд целевого капитала Сколковского института науки и технологий: около 55% доходов идет на софинансирование проектов, поддержка науки и трансляционных исследований (5G/6G, ИИ в здравоохранении, новые материалы, приборостроение) становится базовой практикой.
🔹Примеры региональных вузов, готовых тиражировать опыт: от масс-маркета фандрайзинга до профессионального управления активами, включая внедрение цифровых сервисов и прозрачной отчетности перед обществом.
🔸Взаимодействие с регионом: фондовые механизмы как инструмент поддержки региональных инноваций, повышения престижа вузов и вовлечения граждан в развитие научной и образовательной инфраструктуры.

➡️Создание восьми региональных центров знаний и закрепление стратегических целей до 2036 года помогают превратить фонды целевого капитала из чисто финансового инструмента в устойчивый механизм регионального развития и технологического прорыва.

🔗 Подробнее.

#новостиНОП

📱 НОП в ТГ | НОП в ВК | НОП в МАХ | Сайт НОП

Фонды целевого капитала – инструменты и имитация
 
❗️Заместитель Председателя Правительства Дмитрий Чернышенко утвердил план мероприятий по развитию фондов целевого капитала (ФЦК) образовательных и научных организаций, включая инженерные вузы, до 2036 года.
 
➡️В вопросах формирования эндаументов просматривается ориентация на западные страны. В частности, в США крупные университеты располагают огромными финансовыми ресурсами, что подтверждает их независимый статус.
 
➡️Российские реалии несколько иные. Дмитрий Чернышенко отметил, что на 1 января в РФ было 184 фонда с объемом капитала 24,1 млрд руб. Распределены они, естественно, неравномерно. Чем крупнее и известнее вуз – тем, как правило, больше у него ФЦК. Во многих университетах фонды существуют лишь номинально.
 
➡️План предусматривает совершенствование механизма формирования и использования ФЦК как в вузах, так и в научных организациях. Основная задача – упростить и сделать более прозрачным наполнение и использование фонда.
 
💬Дмитрий Чернышенко подчеркнул:
Целевой капитал – это не только мощный финансовый ресурс, но и инструмент долгосрочного развития. Наша задача – сделать его доступным не только для крупнейших университетов, но и для образовательных и научных организаций в регионах.
 
💬Глава Минобрнауки Валерий Фальков отметил, что важно тиражировать лучшие практики и опираться на них. Он определил:
В перспективе развитие фондов целевого капитала поспособствует укреплению финансовой устойчивости университетов и научных организаций, поддержке образовательных и исследовательских инициатив, развитию человеческого капитала и закреплению молодёжи в регионах.

🔹Зафиксирован интерес государства в развитии механизма фондов. ФЦК скорее всего останутся делом ведущих вузов и ряда научных институтов. Для многих других объемы ФЦК могут не покрыть даже затраты на их кадровое и бухгалтерское обслуживание. К сожалению, любые планы предполагают отчетность, потому можно ожидать помимо развития действительно работающих ФЦК и распространение игры в имитацию.
 
🔗Подробнее.

#новостиНОП

📱НОП в ТГ | НОП в ВК | НОП в МАХ | Сайт НОП

Наука будущего - наука молодых 2026

❗️В Нижнем Новгороде обсудят, как будет выглядеть наука будущего: от мегасайенс и квантовых технологий до управления старением и искусственного интеллекта.

📌НОП - официальный информационный партнер мероприятия.

📅22–25 сентября 2026 года в Нижегородском государственном университете им. Н.И. Лобачевского пройдет XI Всероссийский молодежный научный форум «Наука будущего – наука молодых». На четыре дня Нижний Новгород станет площадкой для обсуждения ключевых научно-технологических вызовов страны – от устройства материи и создания установок «мегасайенс» до квантовых технологий, искусственного интеллекта, климатических изменений и новых подходов к лечению заболеваний.

🔸Форум объединит ведущих российских и зарубежных ученых – победителей программы мегагрантов Минобранауки России, руководителей мировых научных школ, представителей государства и бизнеса, молодых исследователей и технологических предпринимателей. Среди участников – финалисты Всероссийского конкурса научно-исследовательских работ студентов и аспирантов и конкурса молодых медийщиков «Медиакод».

➡️Одним из центральных событий станет пленарное заседание «Что скрывается внутри материи: зачем строить «мегасайенс» - установки размером с город?».

💬Директор Форума Лариса Котлярская, для НОП:
Наука будущего - наука молодых - это экосистема единомышленников, где молодые исследователи получают возможность не просто представить результаты своей работы, а увидеть и уверенно выстроить собственную траекторию в большой науке. Сегодня особенно важно объединять фундаментальные исследования, технологическое развитие, международное научное сотрудничество и реальные задачи экономики. Именно на пересечении этих направлений рождается научная повестка следующего десятилетия - от квантовых технологий, искусственного интеллекта и новых материалов до биотехнологий, генетики, нейронаук и исследований мозга. Наша задача - создать среду, в которой молодые ученые смогут не только продолжить лучшие традиции научных школ, но и смело формировать собственные исследовательские направления, объединять команды и запускать проекты, способные определять будущее российской науки.

#эксклюзивНОП
#новостиНОП

📱 НОП в ТГ | НОП в ВК | НОП в МАХ | Сайт НОП

#ЕжедневныйДайджест

🔸В сфере образования стартовал эксперимент по автоматизации отчетности.

🔹Стало известно, по каким предметам будет самый короткий ЕГЭ в 2027 году.

🔸Фурсенко допустил усложнение ЕГЭ.

🔹СПбГУ откроет образовательный центр в Пекине.

🔸Фурсенко призвал не превращать пересдачу ЕГЭ в конвейер.

🔹Минпросвещения разработало новый учебный курс об отечественном кино.

🔸В ОП предложили сделать среду полувыходным днем в школах.

🔹Роскачество рассказало о правилах использования смартфонов в вузах.

🔸В Госдуме предложили бесплатно раздавать школьникам учебники и форму.

#новостиНОП

📱 НОП в ТГ | НОП в ВК | НОП в МАХ | Сайт НОП