Телеграм канал «HCAI // Регулирование ИИ»

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ В Гонконге финансовый регулятор утвердил новую систему ответственного использования ИИ в банковском секторе под названием ART (Accountability, Resilience and Trust). Она направлена на повышение прозрачности и безопасности ИИ-систем, усиление контроля со стороны банков и сохранение ответственности за принимаемые решения. Отдельное внимание уделяется автономным ИИ-агентам, которые могут самостоятельно выполнять финансовые операции.

2️⃣ В Индии национальное агентство по кибербезопасности CERT-In выпустило официальные рекомендации по защите от рисков автономных ИИ-агентов. Поводом стали случаи, когда такие системы во время испытаний получали несанкционированный доступ к корпоративным данным и внешним сервисам. Разработчикам рекомендовано ограничивать доступ ИИ к интернету, использовать изолированные тестовые среды и предусматривать возможность немедленной остановки агентов. Документ также содержит меры по защите организаций от кибератак с использованием ИИ.

3️⃣ Еврокомиссия официально опубликовала ссылку на первый гармонизированный стандарт EN 18286:2026 в рамках Закона об ИИ (EU AI Act). Он устанавливает требования к системам управления качеством при разработке высокорисковых ИИ-систем, включая документирование процессов, контроль соответствия и управление рисками. Применение стандарта остается добровольным, однако помогает компаниям подтверждать соблюдение соответствующих требований европейского законодательства.

4️⃣ В Китае Министерство коммерции совместно с Министерством науки и технологий ввели обязательную предварительную регистрацию экспорта ряда передовых технологий, включая искусственный интеллект. Требование распространяется на передачу технологий иностранным компаниям, выдачу лицензий на их использование за рубежом и смену иностранных владельцев.

5️⃣ Еврокомиссия обновила официальные рекомендации по ответственному использованию генеративного ИИ в научных исследованиях. В документ впервые включили отдельные положения об автономных ИИ-агентах, а также уточнили правила применения ИИ при рецензировании научных работ и оценке заявок на финансирование. Особое внимание уделяется прозрачности, достоверности результатов и ответственности исследователей за использование технологий.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ В Госдуме утвердили первого заместителя председателя нового Комитета по цифровому развитию и ИИ. Эту должность занял депутат Антон Немкин. Комитет будет заниматься законодательным регулированием ИИ, робототехники, автономных систем и цифровых платформ. В сферу его ответственности также вошли развитие отечественных технологий, защита данных и вопросы технологической независимости.

2️⃣ В Совете Федерации подтвердили, что ИИ может помогать судьям готовить документы и анализировать материалы дел, однако окончательное решение должен принимать человек.

3️⃣ В Амурской области суд оштрафовал местную жительницу на 15 тыс. рублей за распространение фотографии с медведем, созданной с помощью ChatGPT. Девушка добавила животное на снимок городской улицы, чтобы разыграть подругу, однако изображение быстро разошлось по соцсетям. Жители приняли его за настоящее и начали обращаться в полицию. Суд квалифицировал произошедшее как распространение недостоверной общественно значимой информации и назначил административный штраф.

4️⃣ Федеральная антимонопольная служба впервые возбудила дело о картельном сговоре с помощью ИИ. Государственная система «Антикартель» самостоятельно выявила признаки нарушения антимонопольного законодательства при проведении закупок.

5️⃣ В Ростовской области власти приступили к разработке системы на основе ИИ для управления региональными финансами. Она будет анализировать налоговую отчетность, бюджетные показатели и экономическую статистику, чтобы прогнозировать поступления в казну и оценивать последствия управленческих решений.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ В Сингапуре финансовый регулятор утвердил новые правила управления рисками ИИ для банков, страховых компаний и других финансовых организаций. Они предусматривают оценку рисков ИИ-систем, контроль со стороны руководства и проверку технологий сторонних поставщиков. Ответственность за применение ИИ сохраняется за финансовыми организациями, даже если модели разработаны внешними компаниями.

2️⃣ В Китае власти запустили пилотную систему регистрации виртуальных людей, созданных с помощью ИИ. Цифровые персонажи получают удостоверения личности с именем, датой рождения, адресом и биометрическими характеристиками. Система также позволяет им использовать цифровые кошельки и направлена на формирование механизмов идентификации синтетических персонажей.

3️⃣ В Великобритании регулятор добился изменения практик обработки персональных данных у десяти крупнейших разработчиков ИИ, включая OpenAI, Google и Anthropic. Компании внесли или обязались внести изменения в процедуры использования информации при обучении моделей.

4️⃣ В Индонезии парламент принял закон о единой национальной системе данных, который также регулирует использование ИИ в государственном секторе. Закон устанавливает стандарты управления данными, требования к информационной безопасности и правила доступа к государственным базам и предусматривает аудит цифрового суверенитета, административные и уголовные санкции за нарушения, а также создание специального государственного органа.

5️⃣ В Перу Министерство здравоохранения утвердило официальные правила безопасного и ответственного использования ИИ. Документ регулирует разработку, закупку, внедрение и эксплуатацию ИИ-систем внутри министерства. Особое внимание уделяется защите медицинских и персональных данных, прозрачности алгоритмов и соблюдению прав пациентов.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Правительство определит сферы, в которых будет разрешено использовать только отечественные модели ИИ. Ограничения коснутся критически значимой инфраструктуры и других чувствительных отраслей. Для компаний предусмотрен переходный период, чтобы они могли подготовиться к новым требованиям. Власти также намерены адаптировать правила государственных закупок с учетом происхождения и качества ИИ-моделей.

2️⃣ В России Арбитражный суд Вологодской области оштрафовал компанию на 30 тыс. рублей за использование вымышленной судебной практики, созданной нейросетью. Истец сослался на четыре несуществующих судебных дела при уточнении исковых требований. Суд признал это проявлением неуважения к суду и подчеркнул, что участники процесса обязаны проверять достоверность правовых аргументов, даже если они получены с помощью ИИ.

3️⃣ Суд признал незаконным использование нейросети для создания обнаженных изображений реальных людей без их согласия. Решение принято по иску Роскомнадзора к онлайн-сервису, который позволял генерировать откровенные изображения на основе загруженных фотографий. Суд установил нарушение права на неприкосновенность частной жизни и защиту персональных данных. Незаконным признано размещение как исходных фотографий, так и созданных нейросетью материалов.

4️⃣ Минцифры подготовит шесть постановлений правительства для реализации закона об ИИ. Документы определят порядок проверки ИИ-моделей на соответствие традиционным духовно-нравственным ценностям, сферы обязательного применения суверенных и национальных моделей, а также условия доступа разработчиков к государственным данным для обучения нейросетей.

5️⃣ Правительство планирует утвердить национальный план внедрения ИИ, включающий около 170 мероприятий. Документ предусматривает конкретные показатели по годам, ожидаемые результаты и оценку экономического эффекта от применения ИИ. Часть мероприятий уже реализуется, а финансирование дальнейшего внедрения технологии планируется учитывать при формировании государственного бюджета.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ В Канаде создали Национальный совет по искусственному интеллекту. Он будет консультировать правительство по вопросам безопасности ИИ, надзора за технологией, защиты демократических институтов и дальнейшего развития национальной политики в этой сфере. Совет начал работу 2 октября.

2️⃣ В ОАЭ власти эмирата Аджман утвердили единый свод понятий и принципов для использования ИИ государственными органами. Документ принят в рамках официальной программы управления ИИ и вводит общий подход к тому, как ведомства должны понимать и применять связанные с ИИ технологии.

3️⃣ В США Федеральная торговая комиссия начала расследование в отношении OpenAI, Anthropic и других разработчиков ИИ. Регулятор проверяет, создают ли их модели риски для потребителей и могут ли действия компаний подпадать под запрет недобросовестных и вводящих в заблуждение практик. FTC готовит требования о передаче документов и может вызвать руководителей компаний для дачи показаний.

4️⃣ В Японии суд впервые признал, что голос человека может защищаться от копирования с помощью ИИ. Дело касалось актера Кэндзиро Цуды, чей голос воспроизводили в роликах TikTok с помощью ИИ. Суд решил, что коммерческое использование узнаваемого голоса без разрешения может нарушать право человека контролировать использование своей личности.

5️⃣ В США крупнейшие разработчики ИИ подписали соглашение с Белым домом о контроле наиболее мощных моделей. Google, OpenAI, Anthropic, Nvidia и xAI взяли на себя обязательства проводить внутренние проверки, привлекать независимых аудиторов и создавать отдельные механизмы контроля на уровне руководства компаний.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Правительственная подкомиссия одобрила проект национального плана внедрения ИИ в экономику, социальную сферу и госуправление. В него вошли 170 показателей для 16 отраслей, за выполнение которых будут отвечать 32 федеральных ведомства. План рассчитан на 2027–2030 годы и должен связать внедрение ИИ с конкретными результатами в каждой отрасли

2️⃣ Президент поручил правительству рассмотреть создание на федеральной территории «Сириус» экспериментального правового режима для ИИ. Он должен позволить в специальных условиях разрабатывать, испытывать и внедрять российские технологические решения, включая фундаментальные генеративные модели и электронную компонентную базу.

3️⃣ Правительство РФ установило экспериментальный правовой режим для использования высокоавтоматизированной техники в аэропортах. Он разрешает применять ИИ, компьютерное зрение и системы поддержки принятия решений при эксплуатации беспилотной аэродромной техники. Эксперимент пройдет в шести российских аэропортах и продлится три года.

4️⃣ В Совете Федерации предложили определить правовой статус автономных ИИ-агентов. Законодатели рассматривают возможность установить границы их самостоятельности, требования к безопасности и сертификации, а также определить, смогут ли такие системы самостоятельно заключать сделки и кто будет отвечать за причиненный ими вред.

5️⃣ Генпрокуратуры России и Лаоса подписали программу сотрудничества, которая предусматривает обмен опытом по использованию ИИ в работе органов прокуратуры. Стороны также договорились развивать сотрудничество по вопросам экстрадиции, правовой помощи по уголовным делам, конфискации и возврата преступных активов.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Минпросвещения РФ регламентировало использование ИИ в школах. Нейросети нельзя применять на промежуточной и итоговой аттестации, а учителя должны проверять созданные ИИ материалы и несут ответственность за последствия их использования. Приоритет рекомендовано отдавать российским моделям и государственным образовательным сервисам.

2️⃣ Минфин и Федеральное казначейство утвердили план внедрения ИИ в систему госзакупок. Первый ИИ-агент в Единой информационной системе должен перейти в промышленную эксплуатацию в январе 2027 года и помогать специалистам работать с закупочной документацией и требованиями контрактной системы.

3️⃣ В Госдуме создадут отдельный комитет по цифровому развитию и искусственному интеллекту. Он появится в парламенте нового созыва и будет заниматься профильной законопроектной работой в сфере цифровых технологий и ИИ. Ранее эти вопросы были распределены между другими комитетами.

4️⃣ Минтранс готовит отдельный закон о беспилотном транспорте. Ведомство сообщило, что в ближайшие недели внесёт в Госдуму законопроект о высокоавтоматизированных транспортных средствах. Он должен сформировать постоянные правила эксплуатации беспилотного транспорта вместо действующих экспериментальных режимов.

5️⃣ Зампред Совбеза Дмитрий Медведев предложил государствам договориться об общих принципах регулирования ИИ. По его словам, единые международные правила могли бы помочь контролировать развитие технологии и снизить риски масштабного ущерба от её неконтролируемого применения.