Телеграм канал «HCAI // Регулирование ИИ»

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Сенатор Нью-Йорка Кристен Гонсалес 11 августа призвала ввести новые требования для крупных дата-центров, обслуживающих ИИ. Предлагаемый закон предусматривает ограничения на потребление энергии и воды, а также дополнительные требования к условиям труда и размещению таких объектов.

2️⃣ Калифорния 10 августа объявила о запуске программы AI Cyber Defense для защиты критической инфраструктуры от кибератак с использованием ИИ. Штат планирует использовать ИИ для выявления новых угроз и усилить защиту государственных систем.

3️⃣ После присоединения к европейскому Кодексу практики в сфере ИИ компания Anthropic представила технологию маркировки текстов, созданных Claude. Для этого модель будет использовать специальный ключ при выборе слов, создавая в их последовательности статистический паттерн, по которому можно определить, был ли текст или документ создан с помощью Claude.

4️⃣ В Австралии создадут специальную комиссию для изучения влияния ИИ на общество. Она рассмотрит последствия распространения технологии для экономики, рабочих мест, образования, здравоохранения и государственных услуг и подготовит рекомендации для правительства.

5️⃣ В Саудовской Аравии 12 августа вступил в силу новый закон об авторском праве, который устанавливает отдельные правила для использования произведений при разработке ИИ. Закон разрешает при определённых условиях использовать правомерно опубликованные произведения для создания ИИ-продуктов и алгоритмов.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Правительство увеличит поддержку особо значимых проектов с использованием ИИ: рассматривается возможность повысить размер грантового софинансирования таких проектов с 50% до 80% от стоимости. Решение направлено на ускорение внедрения российских ИИ-разработок в ключевых отраслях экономики.

2️⃣ Владимир Путин провёл в Новосибирске заседание Совета по науке и образованию с молодыми учёными в Новосибирске. Во время встречи со студентами, аспирантами и исследователями президент затронул тему возможных рисков развития ИИ.

3️⃣ Российский суд оштрафовал разработчика Character .AI на 1,2 млн рублей. Поводом стало распространение информации о наркотических средствах, психотропных веществах и об их прекурсорах.

4️⃣ Российские ИИ-модели планируют проверять на соответствие законодательству и традиционным духовно-нравственным ценностям. Предполагается, что независимые лаборатории смогут проводить такую оценку с одобрения Минцифры России.

5️⃣ Сбер представил «ГигаАгента», автономного ИИ-помощника, который способен выполнять многошаговые задачи пользователей. Агент может помогать с планированием, работой с календарём, подготовкой сообщений и решением повседневных рабочих задач.

🇺🇸 Генпрокуроры 15 штатов США потребовали от OpenAI сохранить данные об инциденте с ИИ-агентом

Генпрокуроры 1️⃣5️⃣ американских штатов направили OpenAI требование сохранить все материалы, связанные с инцидентом, при котором экспериментальный ИИ-агент получил несанкционированный доступ к системам Hugging Face.

💡Особое внимание властей привлекло то, что агент якобы оставлял «заметки для будущих версий себя» о том, как обходить внутренние ограничения OpenAI.

📝Сейчас власти изучают, могли ли действия компании нарушить законодательство о защите потребителей и персональных данных.

🔍 Кейс показывает, что вопросы автономности ИИ-агентов постепенно переходят из плоскости технических тестов в сферу этической и юридической ответственности: кто отвечает, если ИИ-система выходит за пределы заданного сценария?

🌐 ИИ в мире: топ-5 событий за прошедшую неделю
 
1️⃣ Саудовская Аравия утвердила правовую основу Международного центра исследований и этики ИИ, работающего под эгидой ЮНЕСКО. Центр в Эр-Рияде будет заниматься вопросами этики ИИ, подготовкой рекомендаций для государственной политики и международным сотрудничеством в сфере регулирования технологии.

2️⃣ Сингапур 5 августа уточнил правила для автономных ИИ-агентов. Власти требуют четко определять ответственность, сохранять человеческий контроль и учитывать уровень автономности системы при оценке рисков.

3️⃣ Бразилия 5 августа представила дальнейший план внедрения ИИ в систему государственного здравоохранения. Алгоритмы будут использоваться для оценки рисков пациентов и поддержки врачей, что требует отдельной системы контроля медицинских данных и AI-решений.

4️⃣ Австралия ужесточает требования к центрам обработки данных для ИИ. Крупные операторы должны будут обеспечивать появление дополнительных мощностей возобновляемой энергетики и подтверждать происхождение электроэнергии специальными сертификатами.

5️⃣ Индонезия 5 августа представила подход к развитию национальной инфраструктуры ИИ. Власти намерены одновременно стимулировать инвестиции и установить требования к безопасности, устойчивости инфраструктуры и государственному контролю.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣  Власти и бизнес начали дорабатывать правила использования защищённого контента для обучения ИИ. Объединения правообладателей собирают предложения по поправкам в законодательство, которые призваны защитить их интересы при использовании контента для обучения систем ИИ.

2️⃣ АСИ разъяснило новые правила патентной охраны цифровых разработок. Агентство сообщило, что патент можно будет получить на техническое решение, где новый результат достигается за счёт программного обеспечения. Изменения также затрагивают отдельные разработки с применением ИИ.

3️⃣ В АНО "Цифровая Экономика" сообщили о приоритетных сферах для внедрения суверенных и национальных моделей ИИ — образование и государственные услуги.

4️⃣ Крупнейшие российские ИТ-компании предложили разрешить использовать обезличенные персональные данные для обучения ИИ без отдельного согласия граждан. Инициатива предполагает такую обработку при минимальном риске повторной идентификации и только российскими компаниями на территории РФ.

5️⃣ Правительство поручило подготовить отраслевые планы внедрения российских решений с использованием ИИ в ключевых сферах экономики. Поручения были опубликованы 8 августа.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Регламент ЕС, известный как «AI Omnibus», вступил в силу 27 июля и перенес ключевые сроки исполнения основного закона об ИИ (EU AI Act). Требования к высокорисковым системам в сферах найма, образования, кредитования и критической инфраструктуры сдвинуты с августа 2026 года на 2 декабря 2027 года, а для встроенных алгоритмов в готовых продуктах ( лифтах или игрушках для детей) дедлайн отложен до 2 августа 2028 года.

2️⃣ Германия 29 июля ввела в действие национальный закон о реализации AI Act под названием KI-MIG. Федеральное сетевое агентство (Bundesnetzagentur) стало центральным органом надзора за рынком ИИ в стране, а финансовый регулятор BaFin получил право штрафовать банки и страховые компании на сумму до $40 млн за неправомерное использование ИИ в кредитном скоринге, страховании и чат-ботах.

3️⃣ Еврокомиссия 30 июля объявила о запуске конкурса на создание сети «ИИ-гигафабрик» — специализированных вычислительных мощностей для обучения фронтирных моделей. Этот проект призван привлечь более €30 млрд в рамках государственных и частных инвестиций, а также гарантировать европейским странам полный технологический суверенитет при обучении передовых нейросетей.

4️⃣ Более 1100 инженеров и исследователей из крупнейших технологических лабораторий (OpenAI, Anthropic и Google) 28 июля направили открытое обращение правительству США. Авторы письма призывают создать международный механизм, способный контролируемо замедлять разработку алгоритмов в ситуациях, когда скорость эволюции технологии начинает опережать возможности человека по безопасному надзору.

5️⃣ Министр цифровой трансформации ФРГ Карстен Вильдбергер 30 июля призвал существенно ужесточить проверки передовых моделей. Поводом для столь резкого заявления стал неприятный инцидент с экспериментальным ИИ-агентом, который смог выйти за пределы закрытой тестовой среды и получил несанкционированный доступ к сторонней платформе с исходным кодом.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Аналитический центр ВЦИОМ 27 июля опубликовал результаты исследования о восприятии россиянами ИИ: 77% опрошенных поддерживают обязательную маркировку контента, созданного с помощью ИИ, при этом 34% уверены, что искусственный интеллект никогда не сможет принимать моральные решения, а 41% считают, что продукты ИИ не должны быть объектами авторского права.

2️⃣ Роспатент 27 июля разъяснил механику нового закона о патентовании IT-решений: теперь патентную охрану как техническое решение, реализуемое с помощью программного обеспечения, смогут получать в том числе разработки на основе машинного обучения и других технологий ИИ, а не только код, защищаемый авторским правом.

3️⃣ Советник президента России Елена Ямпольская 30 июля заявила, что закон о поддержке развития ИИ, подписанный президентом 26 июля, не отменяет и не подменяет действие норм Гражданского кодекса — все опасения творческих индустрий, высказанные отраслевыми ассоциациями во время рассмотрения закона в Госдуме, будут учтены осенью при подготовке подзаконных актов о правилах использования охраняемого авторским правом контента для обучения нейросетей.

4️⃣ Первый заместитель председателя Комитета Госдумы по информационной политике Марина Ким 28 июля поддержала⁠ инициативу Следственного комитета о признании сознательного использования ИИ при совершении преступления отягчающим обстоятельством. По ее словам, соответствующая норма должна охватывать мошенничество с дипфейками, синтезом голоса и иными нейросетевыми инструментами, которые позволяют преступникам масштабировать атаки и действовать анонимно.

5️⃣ Мэр Москвы Сергей Собянин 28 июля сообщил, что столица помогает регионам внедрять ИИ в лучевой диагностике с помощью платформы «МосМедИИ», к которой уже подключены более двух тысяч медицинских организаций из 75 регионов, обработано свыше 16 миллионов исследований. Технология позволяет одновременно находить до 14 патологий на одном снимке, не заменяя, а дополняя работу врача.