Телеграм канал «HCAI // Регулирование ИИ»

🇨🇳 Китай опубликовал фреймворк по агентным ИИ

Китай сделал один из первых шагов к системному описанию и регулированию агентных ИИ. Государственное управление по вопросам киберпространства, Госкомитет по развитию и реформам и Министерство промышленности и информатизации КНР выпустили документ об упорядоченном применении и инновационном развитии интеллектуальных агентов.

💡Главная идея документа состоит в том, что агентный ИИ рассматривается не как «чат-бот нового поколения», а как отдельный класс ИИ-систем. Такие системы способны не только отвечать на запросы, но и самостоятельно воспринимать среду, запоминать информацию, принимать решения, взаимодействовать с пользователем и выполнять действия.

1️⃣ Что Китай понимает под агентным ИИ?
В документе интеллектуальный агент описывается через пять ключевых возможностей:
🟦 автономное восприятие;
🟦 память;
🟦 принятие решений;
🟦 взаимодействие;
🟦 исполнение действий.

Именно переход от генерации ответа к выполнению действий делает такие системы отдельным объектом регулирования.

2️⃣ Где планируется применять агентные ИИ?
Китай делает ставку на практическое внедрение агентных систем в конкретные сферы, включая научные исследования, промышленность, энергетику, транспорт, финансы, образование, медицину, государственные и судебные сервисы, общественную безопасность и городское управление.

3️⃣ Как предлагается ограничивать автономность?
Ключевой блок фреймворка посвящен пределам полномочий агентных систем. Документ предлагает разграничивать:
🟦 решения, которые должен принимать только человек;
🟦 действия, которые агент может выполнять только по поручению пользователя;
🟦 задачи, которые могут быть переданы агенту автономно.

Это важный сдвиг, где регулирование строится не только вокруг качества модели, но и вокруг того, какие действия система вправе совершать в реальной цифровой или физической среде.

4️⃣ Как обеспечивается контроль?
Отдельный акцент сделан на управляемости и прослеживаемости агентных ИИ. Для значимых сценариев предполагаются поведенческие ограничения, аудит действий, фиксация логов и возможность проверить, что именно сделал агент, в каком контексте и на каком основании.

Это особенно важно для систем, которые получают доступ к внешним инструментам, данным, платежам, корпоративным системам или публичным сервисам.

5️⃣ Как оцениваются риски?
Китай предлагает развивать классификацию агентных систем с учетом сферы применения и потенциального воздействия. Для чувствительных отраслей могут использоваться более строгие механизмы:
🟦 регистрация;
🟦 тестирование;
🟦 оценка безопасности;
🟦 отзыв проблемных продуктов.

Для низкорисковых сценариев предполагается более мягкая модель: самопроверка, информирование пользователей, платформенное управление и отраслевое саморегулирование.

6️⃣ Почему это больше, чем документ об ИИ-агентах?
Отдельный интересный блок касается инфраструктуры для взаимодействия агентов между собой: стандартов, протоколов, цифровой идентичности агентов, доверенного обмена данными и механизмов разрешения конфликтов.

🔍Это уже не просто регулирование отдельных ИИ-продуктов, а попытка заранее описать будущую среду, где множество агентов будет взаимодействовать с людьми, платформами, устройствами и друг с другом.

🇺🇸🇨🇳 Anthropic опубликовала манифест о борьбе США и Китая за лидерство в ИИ

Anthropic представила документ «2028: Two Scenarios for Global AI Leadership», в котором описала два возможных сценария развития глобальной ИИ-гонки к 2028 году.

💡Главная рамка документа: ИИ становится фактором национальной безопасности, экономического влияния и технологического суверенитета.

1️⃣ Сценарий лидерства США и союзников:
В этом сценарии США сохраняют технологический отрыв за счет контроля над передовыми чипами, дата-центрами и продвинутыми моделями.

Ключевые условия:
🟦 экспортные ограничения на ИИ-чипы работают эффективно;
🟦 Китай не получает доступ к критическим вычислительным мощностям;
🟦 США и союзники задают международные стандарты безопасности ИИ;
🟦 наиболее мощные модели развиваются в рамках демократической системы контроля.

🔜 Для Anthropic это предпочтительный сценарий, где ИИ развивается под контролем демократических стран, а глобальные правила формируются вокруг принципов безопасности, прозрачности и ответственного внедрения.

2️⃣ Сценарий сокращения разрыва Китаем:
Во втором сценарии Китай приближается к США по уровню ИИ-разработок за счет обхода ограничений и ускоренного развития собственной инфраструктуры.

Основные факторы:
🟦 доступ к зарубежным дата-центрам;
🟦 серые схемы получения передовых чипов;
🟦 развитие национальной вычислительной базы;
🟦 использование западных моделей для обучения и улучшения собственных систем.

🔜В этом случае, по мнению Anthropic, мир входит в более жесткую и нестабильную ИИ-гонку. США теряют возможность единолично задавать правила, а международные стандарты начинают формироваться в условиях конкуренции разных политических моделей.

🚀Anthropic делает особый акцент на вычислительных мощностях. Именно доступ к передовым чипам и дата-центрам становится главным ресурсом лидерства в ИИ, а экспортный контроль — инструментом технологической политики и национальной безопасности.

⚡Компания предупреждает, что чем ближе технологическая гонка, тем выше риск ускоренного выпуска мощных моделей без достаточной проверки безопасности. В такой логике ИИ-конкуренция может начать подталкивать государства и компании к более рискованным решениям.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ В Ватикане создадут комитет по этике и технологиям ИИ.

2️⃣ Против OpenAI подан иск о смерти из-за советов ChatGPT по наркотикам.

3️⃣ Великобритания разрабатывает законопроект об ускорении регулирования ИИ и песочницах.

4️⃣ Компания OpenAI предлагает создать глобальную структуру для регулирования ИИ под руководством США и с участием Китая.

5️⃣ Anthropic опубликовали манифест о борьбе США и Китая за ИИ.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ В Государственной Думе состоялось заседание межфракционной рабочей группы по законодательному обеспечению отраслевого и функционального применения ИИ.

2️⃣ Главный радиочастотный центр Роскомнадзора (ГРЧЦ) предлагает соцсетям самим превентивно выявлять и блокировать резонансные дипфейки до проверки достоверности информации.

3️⃣ 15 регионов России начнут применять технологии генеративного ИИ в медицине, образовании и безопасности городов для роста качества жизни.

4️⃣ Часть российских ведомств планирует использовать зарубежные открытые ИИ-модели для своей работы.

5️⃣ В Новосибирске в 2026 году запустят пилотный проект по использованию камер и ИИ для выявления нарушений езды на электросамокатах.

🌐 Кинопремия «Золотой глобус» утвердила правила использования ИИ в фильмах и сериалах

Организаторы премии опубликовали новые правила, посвященные использованию ИИ при создании фильмов, сериалов и актерских работ.

💡Главный принцип — ИИ сам по себе не делает произведение недопустимым для участия в премии, если ключевая творческая роль сохраняется за человеком.

Что закрепили в новых правилах❓

1️⃣ Использование ИИ не запрещается автоматически
Применение генеративного ИИ и других ИИ-инструментов допускается, если:
🟦 творческое руководство остается за человеком;
🟦 художественные решения принимаются человеком;
🟦 авторство и ключевой креативный вклад принадлежат людям.

При этом комитет премии сможет дополнительно запрашивать информацию о роли ИИ в создании произведения.

2️⃣ Ограничения для актерских номинаций
Для актерских категорий установлено отдельное правило:
🟦 исполнение должно быть преимущественно результатом работы самого актера;
🟦 полностью или существенно сгенерированные ИИ-перформансы не допускаются.

Дополнительно акцентируются запреты использования:
🟦 цифрового образа актера без согласия;
🟦 несанкционированной репликации голоса;
🟦 биометрических данных без разрешения исполнителя.

3️⃣ ИИ допускается как вспомогательный инструмент
В неактерских категориях использование ИИ возможно, если он:
🟦 помогает творческому процессу;
🟦 не заменяет ключевой человеческий вклад в режиссуру, сценарий, музыку, анимацию и другие области.

🔍 Фактически «Золотой глобус» стали одной из первых крупных мировых кинопремий, которые попытались формализовать границу между допустимым использованием ИИ и сохранением человеческого авторства. Новые правила показывают, что индустрия постепенно переходит от общих дискуссий об ИИ к практическим механизмам регулирования его использования в творческих индустриях.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Компания Apple выплатит $250 млн в рамках судебного урегулирования коллективного иска о недостоверной рекламе ИИ.

2️⃣ Издательства подали в суд на запрещенную Meta за незаконное использование контента.

3️⃣ В Южной Корее впервые провели церемонию посвящения в монахи человекоподобного робота.

4️⃣ Кинопремия «Золотой глобус» установила новые правила, касающиеся использования ИИ в фильмах.

5️⃣ ВЭФ опубликовал руководство по агентным ИИ для кибербезопасности.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Президент России В.В. Путин поручил подготовить предложения по обновлению федеральных государственных образовательных стандартов с учетом внедрения технологий ИИ.

2️⃣ Минздрав снижает нагрузку на врачей за счет цифровизации и ИИ-помощников.

3️⃣ Из новой версии законопроекта о регулировании ИИ удалили положение об обязанности онлайн-ресурсов проверять маркировку ИИ-контента.

4️⃣ По прогнозу экспертов к 2030 году 90% преступлений в городах России будут раскрываться при помощи технологий на основе ИИ.

5️⃣ В России предложили законодательно запретить ИИ-скрининг резюме. Соответствующая инициатива зарегистрирована на портале «Российская общественная инициатива» под номером 52Ф148061.