Повестка вокруг регулирования нейросетей развивается стремительно.
Уже в середине сентября я подробно разбирал вероятные последствия усиления алармистской риторики по теме ИИ, а сегодня в ЦПК вышел наш доклад по вопросам развития ИИ-повестки в России, в котором подробно разобраны ключевые риски и интриги нормативного регулирования отрасли в ближайшей перспективе.
Интересно, что часть трендов, которые мы описали, начала уже реализовываться. В качестве одной из главных интриг назвали формирование международной архитектуры управления ИИ. Текст доклада разрабатывался еще в начале сентября, и вот буквально на днях борьба за ИИ стала усиливаться.
О том, что гонка нейросетей, как и гонка ядерных вооружений, становится одним из ключевых факторов риска, написано и сказано немало. Но, как правило, все эти заявления крутятся вокруг итоговых сценариев потери контроля над ИИ, упуская, пожалуй, главное - политические риски нейросетей. Вот главные из них:
🟥 Новый «технологический занавес». Гонка ИИ постепенно становится еще одной линией глобального размежевания и разделения сфер интересов, которое наметилось в последние годы. Причем речь идет уже не только о конкуренции отдельных нейросетей. Критическое значение приобретают доступ к передовым чипам, вычислительным мощностям и ресурсам. Уже сейчас можно наблюдать усиление курса государств на так называемый ИИ-суверенитет, предполагающий создание собственных технологических контуров.
В перспективе это создает риск появления нескольких практически несовместимых ИИ-экосистем со своими технологиями и стандартами. То есть условный «железный занавес» XXI века может оказаться технологическим. Создание «Глобального диалога по управлению ИИ» под эгидой ООН как раз показывает, что проблема уже вышла на международный уровень. Однако ООН в последнее время все хуже подходит как площадка для международной кооперации.
🟥 Алгоритмическая гонка вооружений. Военное применение ИИ постоянно расширяется. Сейчас есть примеры применения нейросетей в разведке, обработке данных и непосредственно в оружии (компьютерное зрение дронов как пример). У военной сферы тоже есть сопутствующие политические риски.
Внедрение ИИ может сокращать время на принятие решений и повышать вероятность ошибочной интерпретации ситуации в кризисный момент, в том числе в отношениях между ядерными державами. Недавнее сообщение о том, что США едва не ударили китайский корабль из-за ошибки ИИ, вероятно, не описывает реальной ситуации, однако наглядно демонстрирует то, как вопросы военного использования ИИ могут иметь вполне реальные политические последствия.
🟥 Страх отрыва. Самым опасным может оказаться прорыв одной из стран в вопросах развития ИИ. Если быть точнее, угрозу несет даже не сам прорыв, а информация о его вероятности. Представим ситуацию: одна сторона получает разведывательные данные о том, что стратегический соперник приблизился к созданию так называемого сильного искусственного интеллекта (AGI). Системы, которая потенциально способна резко увеличить военные, экономические или разведывательные возможности страны. Даже если эти оценки окажутся ошибочными, сама вера политического руководства в возможность необратимого изменения баланса сил способна привести к необратимым последствиям.
Возникает классическая логика превентивной эскалации. Сегодня преимущество соперника еще можно ограничить, но завтра это может стать невозможным. Поэтому если, например, США станет известно о том, что Китай вплотную приблизился к созданию AGI, вероятность прямого военного столкновения становится намного выше.
Политические риски развития ИИ продолжим описывать и далее, а пока почитайте доклад ЦПК.
Кибер-айсберг: риски расширения госрегулирования
Анализ развития темы ИИ в повестке партий в контексте выборов в Госдуму
Основные выводы и прогнозы
1. Содержательная часть повестки вокруг ИИ расширяется. Совокупная среднесуточная интенсивность упоминаний парламентских партий в контексте нейросетей выросла до максимума за всю серию, на 23% выше стартового уровня апреляиюня. Тема ИИ из ситуативной стала предметной.
2. В гонку нормативного регулирования включились все парламентские партии. Впервые за серию каждая парламентская партия внесла или продвинула собственную законодательную инициативу по ИИ. «Единая Россия» — лаборатории медицинского ИИ и школьный курс по ИИ. КПРФ — обязательная маркировка ИИ-контента. ЛДПР — бесплатный доступ вузов и колледжей к ИИ-сервисам и фонд роботизации. «Новые люди» — право пользователя отключить рекомендации ИИ-контента. «Справедливая Россия» — ограничение ботов в социально значимых сервисах. Конкуренция за подходы к регулированию сектора будет усиливаться. При этом не исключен сценарий, при котором каждая из партий найдет свою нишу.
3. Юридические риски ожидаемо сократили прикладную сферу применения ИИ. После прецедента с «Яблоком» партии начали страховаться от исков, вплоть до отказа от мемов и заимствованных формулировок. Массового применения ИИ в агитации не произошло. Ситуация должна измениться после установления нормативных правил игры, а также формирования правоприменительной практики, которая будет обкатана до следующей федеральной кампании в рамках ежегодных ЕДГ в регионах.
4. Фокусировка на рисках развития ИИ усилилась. Д. Медведев за анализируемый период сделал серию заявлений о рисках утраты контроля над ИИ, взрывном росте вредоносных ИИ-программ и враждебности западных ИИ-компаний, одновременно оценив экзистенциальную угрозу как отдаленную. Г. Зюганов заявил, что ИИ разделит человечество на лидеров и подчиненных. В повестке других партий также стала чаще фигурировать тема рисков. С одной стороны, это связано с общемировыми трендами (в иностранной прессе в августе-сентября много говорили об угрозах уничтожения человечества из-за ИИ), с другой – это также может говорить о вероятном консервативном подходе в вопросах установления границ функционирования рынка нейросетей.
5. В первый год работы нового созыва следует ожидать резкое уплотнение ИИ-повестки в разрезе законотворчества. Уже появляются инсайды о вероятном создании нового комитета по развитию ИИ. Это демонстрирует приоритетность темы во властной повестке, а также указывает на большой объем нормотворческой деятельности, целью которой станет регулирование отрасли.
Полный текст доклада, описание рисков, а также ключевых интриг вокруг ИИ до 2027 года — на нашем сайте.
Проблема управления рисками в целом и политическими рисками в частности давно уже не является для бизнеса какой-то необычной. В ряде крупных компаний создана серьезная инфраструктура для этой работы в виде департаментов анализа и даже риск-офисов.
Однако в современном турбулентном мире работа с политическими рисками приобретает новое значение.
Когда, по данным социологов, уровень тревоги в обществе обновляет максимумы, а горизонты планирования как частных, так и публичных акторов сокращаются, появляются неожиданные ловушки, которые бизнесмен, часто функционирующий в режиме «белка в колесе», своевременно обнаружить не в состоянии.
Если планировать становится сложнее в силу высокой политической неопределенности, это не означает, что делать это не нужно вовсе. В любом случае процессы внутри и вокруг власти развиваются циклично. Известны ключевые реперные точки, от которых отталкиваются различные игроки. Вот несколько последних простых примеров.
🟥 Налоги. Вполне вероятно, для многих было сюрпризом, когда сразу после выборов в повестке начали появляться сигналы о скором повышении налогов и различных сборов. Даже те, кто ожидал всего этого, скорее всего, путали причинно-следственные связи, ошибочно полагая, что поводом станут именно прошедшие в сентябре выборы в Госдуму. На самом деле все куда проще. Сразу после выборов стартовал большой бюджетный процесс. Вероятность поиска новых и расширения прежних источников доходов для покрытия растущих расходов бюджета была высокой. Спрогнозировать этот риск было нетрудно, зная сезонность и последовательность политических процессов.
🟥 Геополитика. Уже через несколько недель после начала операции США против Ирана стало понятно, что она вряд ли закончится в этом году. Почему? Все просто – промежуточные выборы в США. Трамп не добился своих целей и вряд ли уже мог добиться с учетом начавшейся кампании, которая частично сковала ему руки. Он не может пойти на жесткие и радикальные шаги, опасаясь еще более негативных последствий для республиканцев. Неслучайно Трамп заговорил о том, что окончательное разрешение иранского кейса будет только во второй половине ноября (если будет). Фактически об этом было известно уже в марте. Теперь же, зная об этом факте, можно прогнозировать усиление турбулентности в период с ноября по январь, если не удастся решить ситуацию дипломатическим путем. Аккуратнее с каникулами в зоне Залива!
🟥 Санкции. Еще один пример цикличности политпроцессов, которую можно использовать для прогнозирования рисков. Европейская санкционная политика имеет собственный календарь. До недавнего времени персональные санкции против России пересматривались каждые полгода. Поэтому уже в начале года можно было с высокой уверенностью определить периоды, когда санкционные риски будут актуализироваться. Разумеется, заранее спрогнозировать конкретное содержание решения было гораздо сложнее, чем определить момент его принятия. Но для управления рисками зачастую достаточно знать время. Теперь решение принято сразу на три года, но есть масса других нюансов, по которым можно судить о перспективах санкционной политики.
Список можно продолжать. Для эффективного управления подобного рода рисками нужно планирование, мониторинг и аналитика.
Более того, риск вполне может стать фактором успеха для того, кто с ним начинает работать заранее.