Телеграм канал «HCAI // Регулирование ИИ»

🌐 ИИ в мире: топ-5 событий за прошедшую неделю:

1️⃣ Правительство Японии утвердило новый кодекс для разработчиков генеративного ИИ. Компании должны раскрывать информацию об обучающих данных, учитывать права авторов и объяснять, какие меры они принимают для повышения прозрачности своих систем. Если разработчик решит не соблюдать отдельные положения кодекса, ему придется публично объяснить причины такого решения.

2️⃣ Губернатор Калифорнии Гэвин Ньюсом подписал закон, запрещающий заменять преподавателей Калифорнийского государственного университета искусственным интеллектом. ИИ можно использовать для помощи в учебном процессе, но вести курсы и отвечать за обучение студентов по прежнему должны преподаватели.

3️⃣ Федеральный суд США признал незаконным решение Пентагона ограничить использование технологий Anthropic. Конфликт возник после того, как компания отказалась разрешить применять свои модели для массовой слежки за гражданами и создания полностью автономного оружия. В ответ Пентагон включил Anthropic в список неблагонадежных поставщиков и потребовал от своих подрядчиков отказаться от ее технологий. Суд постановил, что у ведомства не было достаточных оснований для таких ограничений.

4️⃣ В Бразилии вступили в силу новые правила использования ИИ в медицине. Врач должен сообщать пациенту о существенном использовании ИИ, фиксировать его применение в медицинской документации и самостоятельно проверять рекомендации системы. Медицинские учреждения также обязаны оценивать риски используемых систем, а передавать ИИ окончательное решение о диагнозе или лечении запрещено.

5️⃣ Правительство Австралии и власти штатов договорились разработать единые правила в сфере ИИ. В частности, власти намерены установить обязательные требования к крупным центрам обработки данных, в том числе к расходу электроэнергии и воды и размещению новых объектов. Кроме того, планируется определить отдельные требования к обучению моделей ИИ. Новый закон рассчитывают принять в начале 2027 года.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ ФСТЭК предложила новые требования к защите ИИ в государственных информационных системах. Модели ИИ предлагается размещать в отдельном защищенном сегменте, доступ к которому будет осуществляться с многофакторной аутентификацией. Для систем, работающих с информацией ограниченного доступа, также предусмотрены фильтрация запросов и ответов, контроль доступа к моделям и дополнительные требования к ИИ агентам.

2️⃣ Правительственная подкомиссия по развитию ИИ обсудила налоговые льготы для компаний, которые покупают оборудование для разработки и работы систем ИИ. Власти также намерены определить критерии, по которым такое оборудование можно будет отличить от техники для майнинга, и пересмотреть требования к его локализации в России. Первые предложения планируется подготовить до конца сентября.

3️⃣ Минцифры и Минпромторг начали разрабатывать единые правила взаимодействия ИИ агентов с российским промышленным программным обеспечением. Разработчикам могут предложить использовать открытые протоколы, чтобы предприятия могли подключать к программам ИИ агентов разных производителей. Новые правила должны помешать поставщикам программного обеспечения искусственно ограничивать использование сторонних решений.

4️⃣ Минцифры не поддержало предложение о выплатах авторам за произведения, которые ранее использовались для обучения моделей ИИ. Речь шла о разовой компенсации за уже использованные материалы. В министерстве считают, что права авторов необходимо учитывать при разработке правил для обучения ИИ, однако предложенный механизм выплат требует дальнейшего обсуждения.

5️⃣ Минпросвещения запустило первую федеральную программу обучения учителей работе с ИИ, которую до конца года смогут пройти 250 тыс. педагогов. Одновременно ведомство объявило о введении со второй четверти курса «Искусственный интеллект и информационная безопасность» для школьников. На занятиях ученикам будут рассказывать о возможностях ИИ, связанных с ним угрозах и правилах безопасного использования новых технологий.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю:

1️⃣ Министерство образования США выпустило рекомендации по использованию ИИ и других цифровых инструментов в школах. Такие технологии должны защищать данные учеников, работать прозрачно и применяться под контролем преподавателей. Если польза системы не подтверждается независимыми данными, школе рекомендуют отказаться от неё.

2️⃣ OpenAI приостановила часть работ над новой моделью Astra после того, как предварительные испытания показали критически высокий уровень возможностей в сфере кибербезопасности. Компания также решила пересмотреть собственную систему оценки рисков, усилить контроль за ходом обучения моделей и расширить тестирование защитных механизмов.

3️⃣ Правительственная экспертная группа Японии одобрила проект кодекса прозрачности для разработчиков генеративного ИИ. Компаниям предложат раскрывать сведения об обучающих данных и способах их сбора. Если разработчик откажется соблюдать кодекс, ему придётся публично объяснить своё решение.

4️⃣ Власти Пенсильвании ужесточили правила строительства дата-центров, в том числе предназначенных для работы с ИИ. Теперь владельцы таких объектов должны сами оплачивать необходимую энергетическую инфраструктуру, соблюдать экологические требования и раскрывать данные о потреблении энергии и воды.

5️⃣ Национальное управление по защите данных Бразилии начало проверку ChatGPT, Claude, Gemini, Copilot, DeepSeek и Perplexity. Компании должны предоставить информацию о том, как они блокируют незаконный контент и предотвращают создание интимных изображений людей без их согласия.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Рабочая группа Совета при Президенте России подготовила поправки в Гражданский кодекс и ФЗ "О поддержке развития технологий ИИ в России", включающие в себя положения о маркировке ИИ-контента и положения об обучении моделей ИИ.

2️⃣ ВТБ присоединился к Кодексу этики в сфере разработки и применения ИИ на финансовом рынке, подготовленному Банком России.

3️⃣ Минцифры Татарстана и Шэньчжэньская ассоциация индустрии ИИ подписали меморандум о сотрудничестве. Стороны будут помогать российским и китайским технологическим компаниям выходить на новые рынки, запускать совместные проекты и адаптировать разработки с учётом требований к защите данных и интеллектуальной собственности.

4️⃣ Минпромторг предложил ввести специальные требования к локализации российских процессоров и ускорителей для ИИ. Степень локализации планируют определять по балльной системе. Получение статуса российского оборудования даст разработчикам преимущества при государственных закупках и поставках для объектов критической инфраструктуры.

5️⃣ Бизнес предложил Минэкономразвития и Минцифры создать в рамках экспериментально-правового режима платформу с доступом к государственным и квазигосударственным данным, включая отраслевые ГИС, реестры и ведомственные системы.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Сенатор Нью-Йорка Кристен Гонсалес 11 августа призвала ввести новые требования для крупных дата-центров, обслуживающих ИИ. Предлагаемый закон предусматривает ограничения на потребление энергии и воды, а также дополнительные требования к условиям труда и размещению таких объектов.

2️⃣ Калифорния 10 августа объявила о запуске программы AI Cyber Defense для защиты критической инфраструктуры от кибератак с использованием ИИ. Штат планирует использовать ИИ для выявления новых угроз и усилить защиту государственных систем.

3️⃣ После присоединения к европейскому Кодексу практики в сфере ИИ компания Anthropic представила технологию маркировки текстов, созданных Claude. Для этого модель будет использовать специальный ключ при выборе слов, создавая в их последовательности статистический паттерн, по которому можно определить, был ли текст или документ создан с помощью Claude.

4️⃣ В Австралии создадут специальную комиссию для изучения влияния ИИ на общество. Она рассмотрит последствия распространения технологии для экономики, рабочих мест, образования, здравоохранения и государственных услуг и подготовит рекомендации для правительства.

5️⃣ В Саудовской Аравии 12 августа вступил в силу новый закон об авторском праве, который устанавливает отдельные правила для использования произведений при разработке ИИ. Закон разрешает при определённых условиях использовать правомерно опубликованные произведения для создания ИИ-продуктов и алгоритмов.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Правительство увеличит поддержку особо значимых проектов с использованием ИИ: рассматривается возможность повысить размер грантового софинансирования таких проектов с 50% до 80% от стоимости. Решение направлено на ускорение внедрения российских ИИ-разработок в ключевых отраслях экономики.

2️⃣ Владимир Путин провёл в Новосибирске заседание Совета по науке и образованию с молодыми учёными в Новосибирске. Во время встречи со студентами, аспирантами и исследователями президент затронул тему возможных рисков развития ИИ.

3️⃣ Российский суд оштрафовал разработчика Character .AI на 1,2 млн рублей. Поводом стало распространение информации о наркотических средствах, психотропных веществах и об их прекурсорах.

4️⃣ Российские ИИ-модели планируют проверять на соответствие законодательству и традиционным духовно-нравственным ценностям. Предполагается, что независимые лаборатории смогут проводить такую оценку с одобрения Минцифры России.

5️⃣ Сбер представил «ГигаАгента», автономного ИИ-помощника, который способен выполнять многошаговые задачи пользователей. Агент может помогать с планированием, работой с календарём, подготовкой сообщений и решением повседневных рабочих задач.

🇺🇸 Генпрокуроры 15 штатов США потребовали от OpenAI сохранить данные об инциденте с ИИ-агентом

Генпрокуроры 1️⃣5️⃣ американских штатов направили OpenAI требование сохранить все материалы, связанные с инцидентом, при котором экспериментальный ИИ-агент получил несанкционированный доступ к системам Hugging Face.

💡Особое внимание властей привлекло то, что агент якобы оставлял «заметки для будущих версий себя» о том, как обходить внутренние ограничения OpenAI.

📝Сейчас власти изучают, могли ли действия компании нарушить законодательство о защите потребителей и персональных данных.

🔍 Кейс показывает, что вопросы автономности ИИ-агентов постепенно переходят из плоскости технических тестов в сферу этической и юридической ответственности: кто отвечает, если ИИ-система выходит за пределы заданного сценария?