Телеграм канал «HCAI // Регулирование ИИ»

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Страны ЕАЭС приняли совместное заявление об ответственном развитии ИИ на заседании в Астане.

2️⃣ Правительство Испании одобрило и направило в парламент проект закона об ИИ, который адаптирует национальное регулирование к положениям европейского Закона об ИИ.

3️⃣ Белый дом направил в Конгресс национальную законодательную рамку для регулирования ИИ, предназначенную для установления федеральных стандартов, которые будут отменять правила ИИ на уровне штата.

4️⃣ Палата представителей Иллинойса одобрила законопроект, вводящий с 2028 года обязательные меры безопасности, независимый аудит и уведомление о критических инцидентах для крупных разработчиков frontier‑моделей ИИ.

5️⃣ Anthropic открывает офис в Милане для продвижения ответственного ИИ.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Президент России В.В. Путин на пленарном заседании Евразийского экономического форума в Астане обозначил позицию России в глобальной гонке технологий ИИ, а также предложил встречу на высоком уровне, посвященную развитию суверенных моделей ИИ.

2️⃣ Верховный суд России впервые в масштабах страны проведет обобщение судебной практики по делам, связанным с использованием ИИ.

3️⃣ В Госдуму внесен законопроект о робототехнике и беспилотных системах.

4️⃣ Комитет Госдумы по экономической политике одобрил законопроект об упрощении введения экспериментальных правовых режимов (ЭПР) в сфере ИИ.

5️⃣ Банк России определил ключевые направления развития ИИ на финансовом рынке.

🌐ИИ в мире: топ-5 событий за прошедшую неделю

1. Губернатор Калифорнии Гэвин Ньюсом подписал указ, направленный на защиту работников от увольнений, связанных с внедрением технологий ИИ.

2. В США штаты Колорадо, Миссури и Южная Каролина провели масштабное обновление регионального законодательства в сфере ИИ.

3. В Китае опубликовано первое в мире комплексное стратегическое руководство по регулированию агентного ИИ (Agentic AI).

4. На форуме в Найроби Lawyers Hub Africa представили стратегию «суверенного» регулирования ИИ.

5. Суд в США закрыл дело Илона Маска против OpenAI в связи с истечением срока давности.

🇷🇺ИИ в России: топ-5 событий за прошедшую неделю

1. Минпросвещения России утвердило включение профиля «Искусственный интеллект» в школьную программу.

2. В Саратовской области на законодательном уровне введён запрет на использование дипфейков в предвыборной агитации.

3. В Курской области создана комиссия по внедрению технологий ИИ.

4. В «Сколково» обсудили правовое регулирование ИИ и снижение рисков его внедрения.

5. Государственная Дума рассмотрит законопроект о «национальном» ИИ, подготовленный правительством.

🇨🇳 Китай опубликовал фреймворк по агентным ИИ

Китай сделал один из первых шагов к системному описанию и регулированию агентных ИИ. Государственное управление по вопросам киберпространства, Госкомитет по развитию и реформам и Министерство промышленности и информатизации КНР выпустили документ об упорядоченном применении и инновационном развитии интеллектуальных агентов.

💡Главная идея документа состоит в том, что агентный ИИ рассматривается не как «чат-бот нового поколения», а как отдельный класс ИИ-систем. Такие системы способны не только отвечать на запросы, но и самостоятельно воспринимать среду, запоминать информацию, принимать решения, взаимодействовать с пользователем и выполнять действия.

1️⃣ Что Китай понимает под агентным ИИ?
В документе интеллектуальный агент описывается через пять ключевых возможностей:
🟦 автономное восприятие;
🟦 память;
🟦 принятие решений;
🟦 взаимодействие;
🟦 исполнение действий.

Именно переход от генерации ответа к выполнению действий делает такие системы отдельным объектом регулирования.

2️⃣ Где планируется применять агентные ИИ?
Китай делает ставку на практическое внедрение агентных систем в конкретные сферы, включая научные исследования, промышленность, энергетику, транспорт, финансы, образование, медицину, государственные и судебные сервисы, общественную безопасность и городское управление.

3️⃣ Как предлагается ограничивать автономность?
Ключевой блок фреймворка посвящен пределам полномочий агентных систем. Документ предлагает разграничивать:
🟦 решения, которые должен принимать только человек;
🟦 действия, которые агент может выполнять только по поручению пользователя;
🟦 задачи, которые могут быть переданы агенту автономно.

Это важный сдвиг, где регулирование строится не только вокруг качества модели, но и вокруг того, какие действия система вправе совершать в реальной цифровой или физической среде.

4️⃣ Как обеспечивается контроль?
Отдельный акцент сделан на управляемости и прослеживаемости агентных ИИ. Для значимых сценариев предполагаются поведенческие ограничения, аудит действий, фиксация логов и возможность проверить, что именно сделал агент, в каком контексте и на каком основании.

Это особенно важно для систем, которые получают доступ к внешним инструментам, данным, платежам, корпоративным системам или публичным сервисам.

5️⃣ Как оцениваются риски?
Китай предлагает развивать классификацию агентных систем с учетом сферы применения и потенциального воздействия. Для чувствительных отраслей могут использоваться более строгие механизмы:
🟦 регистрация;
🟦 тестирование;
🟦 оценка безопасности;
🟦 отзыв проблемных продуктов.

Для низкорисковых сценариев предполагается более мягкая модель: самопроверка, информирование пользователей, платформенное управление и отраслевое саморегулирование.

6️⃣ Почему это больше, чем документ об ИИ-агентах?
Отдельный интересный блок касается инфраструктуры для взаимодействия агентов между собой: стандартов, протоколов, цифровой идентичности агентов, доверенного обмена данными и механизмов разрешения конфликтов.

🔍Это уже не просто регулирование отдельных ИИ-продуктов, а попытка заранее описать будущую среду, где множество агентов будет взаимодействовать с людьми, платформами, устройствами и друг с другом.

🇺🇸🇨🇳 Anthropic опубликовала манифест о борьбе США и Китая за лидерство в ИИ

Anthropic представила документ «2028: Two Scenarios for Global AI Leadership», в котором описала два возможных сценария развития глобальной ИИ-гонки к 2028 году.

💡Главная рамка документа: ИИ становится фактором национальной безопасности, экономического влияния и технологического суверенитета.

1️⃣ Сценарий лидерства США и союзников:
В этом сценарии США сохраняют технологический отрыв за счет контроля над передовыми чипами, дата-центрами и продвинутыми моделями.

Ключевые условия:
🟦 экспортные ограничения на ИИ-чипы работают эффективно;
🟦 Китай не получает доступ к критическим вычислительным мощностям;
🟦 США и союзники задают международные стандарты безопасности ИИ;
🟦 наиболее мощные модели развиваются в рамках демократической системы контроля.

🔜 Для Anthropic это предпочтительный сценарий, где ИИ развивается под контролем демократических стран, а глобальные правила формируются вокруг принципов безопасности, прозрачности и ответственного внедрения.

2️⃣ Сценарий сокращения разрыва Китаем:
Во втором сценарии Китай приближается к США по уровню ИИ-разработок за счет обхода ограничений и ускоренного развития собственной инфраструктуры.

Основные факторы:
🟦 доступ к зарубежным дата-центрам;
🟦 серые схемы получения передовых чипов;
🟦 развитие национальной вычислительной базы;
🟦 использование западных моделей для обучения и улучшения собственных систем.

🔜В этом случае, по мнению Anthropic, мир входит в более жесткую и нестабильную ИИ-гонку. США теряют возможность единолично задавать правила, а международные стандарты начинают формироваться в условиях конкуренции разных политических моделей.

🚀Anthropic делает особый акцент на вычислительных мощностях. Именно доступ к передовым чипам и дата-центрам становится главным ресурсом лидерства в ИИ, а экспортный контроль — инструментом технологической политики и национальной безопасности.

⚡Компания предупреждает, что чем ближе технологическая гонка, тем выше риск ускоренного выпуска мощных моделей без достаточной проверки безопасности. В такой логике ИИ-конкуренция может начать подталкивать государства и компании к более рискованным решениям.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ В Ватикане создадут комитет по этике и технологиям ИИ.

2️⃣ Против OpenAI подан иск о смерти из-за советов ChatGPT по наркотикам.

3️⃣ Великобритания разрабатывает законопроект об ускорении регулирования ИИ и песочницах.

4️⃣ Компания OpenAI предлагает создать глобальную структуру для регулирования ИИ под руководством США и с участием Китая.

5️⃣ Anthropic опубликовали манифест о борьбе США и Китая за ИИ.