Телеграм канал «HCAI // Регулирование ИИ»

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ В Госдуму внесли законопроект, который предлагает дать пользователям возможность отключать рекомендации материалов, созданных или существенно измененных с помощью ИИ. Такой контент при этом не будут блокировать: его по прежнему можно будет найти через поиск или открыть по прямой ссылке.

2️⃣ Верховный суд России предложил разработать общие этические правила использования ИИ в судах стран БРИКС. В частности, предлагается закрепить, что ИИ может помогать судье анализировать материалы и судебную практику, но не должен самостоятельно принимать окончательное решение по делу.

3️⃣ Российские суды начали применять четыре модели ИИ в тестовом режиме. Их обучают на правовых позициях Верховного суда и судебных решениях по наиболее важным для граждан и бизнеса вопросам. Технология должна помогать судьям искать нужную практику, выявлять противоречия и снижать риск ошибок.

4️⃣ Минпросвещения запустило обновленный курс «Россия — мои горизонты» для школьников. В программу вошло отдельное занятие об ИИ. Ученикам будут рассказывать, как ИИ применяется в экономике, социальной сфере и государственном управлении, а также знакомить их с профессиями, связанными с новыми технологиями.

5️⃣ Заместитель Руководителя Администрации Президента РФ Максим Орешкин на ВЭФ рассказал, как на Дальнем Востоке будут тестировать новые подходы к регулированию ИИ. С 2027 года там начнет действовать особый правовой режим, который позволит применять системы, где ИИ не только анализирует информацию, но и принимает конкретные решения под контролем человека. Сейчас работа таких систем законодательно не урегулирована. Поэтому сначала их планируют протестировать в сферах с низким уровнем риска, а полученный опыт использовать для выработки дальнейших правил регулирования.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Еврокомиссия отнесла ChatGPT к крупнейшим поисковым сервисам, на которые распространяются усиленные требования европейского Закона о цифровых услугах.

2️⃣ Высший избирательный суд Бразилии установил критерии, по которым созданные или измененные с помощью ИИ материалы будут считаться дипфейками во время выборов.

3️⃣ Власти Нью Йорка ввели годичный запрет на использование генеративного ИИ учениками государственных школ до восьмого класса включительно. В старших классах ИИ разрешат использовать только в отдельных учебных проектах под контролем школы.

4️⃣ Национальный совет по образованию Бразилии одобрил общие правила использования ИИ в школах и университетах. Младшие школьники смогут пользоваться такими системами только под контролем преподавателя. Для разных способов применения ИИ также хотят установить уровни риска, а наиболее опасные варианты запретить. Правила еще должен утвердить министр образования.

5️⃣ Министры стран G20 согласовали общие подходы к развитию и регулированию ИИ. Страны намерены совместно работать над стандартами безопасности, правилами использования интеллектуальной собственности и подготовкой работников к распространению новых технологий. Эти договоренности носят рекомендательный характер и сами по себе не устанавливают обязательных требований для компаний.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю:

1️⃣ Правительство Японии утвердило новый кодекс для разработчиков генеративного ИИ. Компании должны раскрывать информацию об обучающих данных, учитывать права авторов и объяснять, какие меры они принимают для повышения прозрачности своих систем. Если разработчик решит не соблюдать отдельные положения кодекса, ему придется публично объяснить причины такого решения.

2️⃣ Губернатор Калифорнии Гэвин Ньюсом подписал закон, запрещающий заменять преподавателей Калифорнийского государственного университета искусственным интеллектом. ИИ можно использовать для помощи в учебном процессе, но вести курсы и отвечать за обучение студентов по прежнему должны преподаватели.

3️⃣ Федеральный суд США признал незаконным решение Пентагона ограничить использование технологий Anthropic. Конфликт возник после того, как компания отказалась разрешить применять свои модели для массовой слежки за гражданами и создания полностью автономного оружия. В ответ Пентагон включил Anthropic в список неблагонадежных поставщиков и потребовал от своих подрядчиков отказаться от ее технологий. Суд постановил, что у ведомства не было достаточных оснований для таких ограничений.

4️⃣ В Бразилии вступили в силу новые правила использования ИИ в медицине. Врач должен сообщать пациенту о существенном использовании ИИ, фиксировать его применение в медицинской документации и самостоятельно проверять рекомендации системы. Медицинские учреждения также обязаны оценивать риски используемых систем, а передавать ИИ окончательное решение о диагнозе или лечении запрещено.

5️⃣ Правительство Австралии и власти штатов договорились разработать единые правила в сфере ИИ. В частности, власти намерены установить обязательные требования к крупным центрам обработки данных, в том числе к расходу электроэнергии и воды и размещению новых объектов. Кроме того, планируется определить отдельные требования к обучению моделей ИИ. Новый закон рассчитывают принять в начале 2027 года.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ ФСТЭК предложила новые требования к защите ИИ в государственных информационных системах. Модели ИИ предлагается размещать в отдельном защищенном сегменте, доступ к которому будет осуществляться с многофакторной аутентификацией. Для систем, работающих с информацией ограниченного доступа, также предусмотрены фильтрация запросов и ответов, контроль доступа к моделям и дополнительные требования к ИИ агентам.

2️⃣ Правительственная подкомиссия по развитию ИИ обсудила налоговые льготы для компаний, которые покупают оборудование для разработки и работы систем ИИ. Власти также намерены определить критерии, по которым такое оборудование можно будет отличить от техники для майнинга, и пересмотреть требования к его локализации в России. Первые предложения планируется подготовить до конца сентября.

3️⃣ Минцифры и Минпромторг начали разрабатывать единые правила взаимодействия ИИ агентов с российским промышленным программным обеспечением. Разработчикам могут предложить использовать открытые протоколы, чтобы предприятия могли подключать к программам ИИ агентов разных производителей. Новые правила должны помешать поставщикам программного обеспечения искусственно ограничивать использование сторонних решений.

4️⃣ Минцифры не поддержало предложение о выплатах авторам за произведения, которые ранее использовались для обучения моделей ИИ. Речь шла о разовой компенсации за уже использованные материалы. В министерстве считают, что права авторов необходимо учитывать при разработке правил для обучения ИИ, однако предложенный механизм выплат требует дальнейшего обсуждения.

5️⃣ Минпросвещения запустило первую федеральную программу обучения учителей работе с ИИ, которую до конца года смогут пройти 250 тыс. педагогов. Одновременно ведомство объявило о введении со второй четверти курса «Искусственный интеллект и информационная безопасность» для школьников. На занятиях ученикам будут рассказывать о возможностях ИИ, связанных с ним угрозах и правилах безопасного использования новых технологий.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю:

1️⃣ Министерство образования США выпустило рекомендации по использованию ИИ и других цифровых инструментов в школах. Такие технологии должны защищать данные учеников, работать прозрачно и применяться под контролем преподавателей. Если польза системы не подтверждается независимыми данными, школе рекомендуют отказаться от неё.

2️⃣ OpenAI приостановила часть работ над новой моделью Astra после того, как предварительные испытания показали критически высокий уровень возможностей в сфере кибербезопасности. Компания также решила пересмотреть собственную систему оценки рисков, усилить контроль за ходом обучения моделей и расширить тестирование защитных механизмов.

3️⃣ Правительственная экспертная группа Японии одобрила проект кодекса прозрачности для разработчиков генеративного ИИ. Компаниям предложат раскрывать сведения об обучающих данных и способах их сбора. Если разработчик откажется соблюдать кодекс, ему придётся публично объяснить своё решение.

4️⃣ Власти Пенсильвании ужесточили правила строительства дата-центров, в том числе предназначенных для работы с ИИ. Теперь владельцы таких объектов должны сами оплачивать необходимую энергетическую инфраструктуру, соблюдать экологические требования и раскрывать данные о потреблении энергии и воды.

5️⃣ Национальное управление по защите данных Бразилии начало проверку ChatGPT, Claude, Gemini, Copilot, DeepSeek и Perplexity. Компании должны предоставить информацию о том, как они блокируют незаконный контент и предотвращают создание интимных изображений людей без их согласия.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Рабочая группа Совета при Президенте России подготовила поправки в Гражданский кодекс и ФЗ "О поддержке развития технологий ИИ в России", включающие в себя положения о маркировке ИИ-контента и положения об обучении моделей ИИ.

2️⃣ ВТБ присоединился к Кодексу этики в сфере разработки и применения ИИ на финансовом рынке, подготовленному Банком России.

3️⃣ Минцифры Татарстана и Шэньчжэньская ассоциация индустрии ИИ подписали меморандум о сотрудничестве. Стороны будут помогать российским и китайским технологическим компаниям выходить на новые рынки, запускать совместные проекты и адаптировать разработки с учётом требований к защите данных и интеллектуальной собственности.

4️⃣ Минпромторг предложил ввести специальные требования к локализации российских процессоров и ускорителей для ИИ. Степень локализации планируют определять по балльной системе. Получение статуса российского оборудования даст разработчикам преимущества при государственных закупках и поставках для объектов критической инфраструктуры.

5️⃣ Бизнес предложил Минэкономразвития и Минцифры создать в рамках экспериментально-правового режима платформу с доступом к государственным и квазигосударственным данным, включая отраслевые ГИС, реестры и ведомственные системы.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Сенатор Нью-Йорка Кристен Гонсалес 11 августа призвала ввести новые требования для крупных дата-центров, обслуживающих ИИ. Предлагаемый закон предусматривает ограничения на потребление энергии и воды, а также дополнительные требования к условиям труда и размещению таких объектов.

2️⃣ Калифорния 10 августа объявила о запуске программы AI Cyber Defense для защиты критической инфраструктуры от кибератак с использованием ИИ. Штат планирует использовать ИИ для выявления новых угроз и усилить защиту государственных систем.

3️⃣ После присоединения к европейскому Кодексу практики в сфере ИИ компания Anthropic представила технологию маркировки текстов, созданных Claude. Для этого модель будет использовать специальный ключ при выборе слов, создавая в их последовательности статистический паттерн, по которому можно определить, был ли текст или документ создан с помощью Claude.

4️⃣ В Австралии создадут специальную комиссию для изучения влияния ИИ на общество. Она рассмотрит последствия распространения технологии для экономики, рабочих мест, образования, здравоохранения и государственных услуг и подготовит рекомендации для правительства.

5️⃣ В Саудовской Аравии 12 августа вступил в силу новый закон об авторском праве, который устанавливает отдельные правила для использования произведений при разработке ИИ. Закон разрешает при определённых условиях использовать правомерно опубликованные произведения для создания ИИ-продуктов и алгоритмов.