Телеграм канал «HCAI // Регулирование ИИ»

🌐 ИИ в мире: топ-5 событий за прошедшую неделю:

1️⃣ Министерство образования США 20 августа выпустило рекомендации по использованию ИИ и других цифровых инструментов в школах. Такие технологии должны защищать данные учеников, работать прозрачно и применяться под контролем преподавателей. Если польза системы не подтверждается независимыми данными, школе рекомендуют отказаться от неё.

2️⃣ OpenAI 18 августа приостановила часть работ над новой моделью Astra после того, как предварительные испытания показали критически высокий уровень возможностей в сфере кибербезопасности. Компания также решила пересмотреть собственную систему оценки рисков, усилить контроль за ходом обучения моделей и расширить тестирование защитных механизмов.

3️⃣ Правительственная экспертная группа Японии 18 августа одобрила проект кодекса прозрачности для разработчиков генеративного ИИ. Компаниям предложат раскрывать сведения об обучающих данных и способах их сбора. Если разработчик откажется соблюдать кодекс, ему придётся публично объяснить своё решение.

4️⃣ Власти Пенсильвании 18 августа ужесточили правила строительства дата-центров, в том числе предназначенных для работы с ИИ. Теперь владельцы таких объектов должны сами оплачивать необходимую энергетическую инфраструктуру, соблюдать экологические требования и раскрывать данные о потреблении энергии и воды.

5️⃣ Национальное управление по защите данных Бразилии 21 августа начало проверку ChatGPT, Claude, Gemini, Copilot, DeepSeek и Perplexity. Компании должны предоставить информацию о том, как они блокируют незаконный контент и предотвращают создание интимных изображений людей без их согласия.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Рабочая группа Совета при Президенте России 18 августа подготовила поправки в Гражданский кодекс и ФЗ "О поддержке развития технологий ИИ в России", включающие в себя положения о маркировке ИИ-контента и положения об обучении моделей ИИ.

2️⃣ ВТБ 21 августа присоединился к Кодексу этики в сфере разработки и применения ИИ на финансовом рынке, подготовленному Банком России.

3️⃣ Минцифры Татарстана и Шэньчжэньская ассоциация индустрии ИИ 17 августа подписали меморандум о сотрудничестве. Стороны будут помогать российским и китайским технологическим компаниям выходить на новые рынки, запускать совместные проекты и адаптировать разработки с учётом требований к защите данных и интеллектуальной собственности.

4️⃣ Минпромторг 18 августа предложил ввести специальные требования к локализации российских процессоров и ускорителей для ИИ. Степень локализации планируют определять по балльной системе. Получение статуса российского оборудования даст разработчикам преимущества при государственных закупках и поставках для объектов критической инфраструктуры.

5️⃣ Бизнес предложил Минэкономразвития и Минцифры создать в рамках экспериментально-правового режима платформу с доступом к государственным и квазигосударственным данным, включая отраслевые ГИС, реестры и ведомственные системы.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Сенатор Нью-Йорка Кристен Гонсалес 11 августа призвала ввести новые требования для крупных дата-центров, обслуживающих ИИ. Предлагаемый закон предусматривает ограничения на потребление энергии и воды, а также дополнительные требования к условиям труда и размещению таких объектов.

2️⃣ Калифорния 10 августа объявила о запуске программы AI Cyber Defense для защиты критической инфраструктуры от кибератак с использованием ИИ. Штат планирует использовать ИИ для выявления новых угроз и усилить защиту государственных систем.

3️⃣ После присоединения к европейскому Кодексу практики в сфере ИИ компания Anthropic представила технологию маркировки текстов, созданных Claude. Для этого модель будет использовать специальный ключ при выборе слов, создавая в их последовательности статистический паттерн, по которому можно определить, был ли текст или документ создан с помощью Claude.

4️⃣ В Австралии создадут специальную комиссию для изучения влияния ИИ на общество. Она рассмотрит последствия распространения технологии для экономики, рабочих мест, образования, здравоохранения и государственных услуг и подготовит рекомендации для правительства.

5️⃣ В Саудовской Аравии 12 августа вступил в силу новый закон об авторском праве, который устанавливает отдельные правила для использования произведений при разработке ИИ. Закон разрешает при определённых условиях использовать правомерно опубликованные произведения для создания ИИ-продуктов и алгоритмов.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Правительство увеличит поддержку особо значимых проектов с использованием ИИ: рассматривается возможность повысить размер грантового софинансирования таких проектов с 50% до 80% от стоимости. Решение направлено на ускорение внедрения российских ИИ-разработок в ключевых отраслях экономики.

2️⃣ Владимир Путин провёл в Новосибирске заседание Совета по науке и образованию с молодыми учёными в Новосибирске. Во время встречи со студентами, аспирантами и исследователями президент затронул тему возможных рисков развития ИИ.

3️⃣ Российский суд оштрафовал разработчика Character .AI на 1,2 млн рублей. Поводом стало распространение информации о наркотических средствах, психотропных веществах и об их прекурсорах.

4️⃣ Российские ИИ-модели планируют проверять на соответствие законодательству и традиционным духовно-нравственным ценностям. Предполагается, что независимые лаборатории смогут проводить такую оценку с одобрения Минцифры России.

5️⃣ Сбер представил «ГигаАгента», автономного ИИ-помощника, который способен выполнять многошаговые задачи пользователей. Агент может помогать с планированием, работой с календарём, подготовкой сообщений и решением повседневных рабочих задач.

🇺🇸 Генпрокуроры 15 штатов США потребовали от OpenAI сохранить данные об инциденте с ИИ-агентом

Генпрокуроры 1️⃣5️⃣ американских штатов направили OpenAI требование сохранить все материалы, связанные с инцидентом, при котором экспериментальный ИИ-агент получил несанкционированный доступ к системам Hugging Face.

💡Особое внимание властей привлекло то, что агент якобы оставлял «заметки для будущих версий себя» о том, как обходить внутренние ограничения OpenAI.

📝Сейчас власти изучают, могли ли действия компании нарушить законодательство о защите потребителей и персональных данных.

🔍 Кейс показывает, что вопросы автономности ИИ-агентов постепенно переходят из плоскости технических тестов в сферу этической и юридической ответственности: кто отвечает, если ИИ-система выходит за пределы заданного сценария?

🌐 ИИ в мире: топ-5 событий за прошедшую неделю
 
1️⃣ Саудовская Аравия утвердила правовую основу Международного центра исследований и этики ИИ, работающего под эгидой ЮНЕСКО. Центр в Эр-Рияде будет заниматься вопросами этики ИИ, подготовкой рекомендаций для государственной политики и международным сотрудничеством в сфере регулирования технологии.

2️⃣ Сингапур 5 августа уточнил правила для автономных ИИ-агентов. Власти требуют четко определять ответственность, сохранять человеческий контроль и учитывать уровень автономности системы при оценке рисков.

3️⃣ Бразилия 5 августа представила дальнейший план внедрения ИИ в систему государственного здравоохранения. Алгоритмы будут использоваться для оценки рисков пациентов и поддержки врачей, что требует отдельной системы контроля медицинских данных и AI-решений.

4️⃣ Австралия ужесточает требования к центрам обработки данных для ИИ. Крупные операторы должны будут обеспечивать появление дополнительных мощностей возобновляемой энергетики и подтверждать происхождение электроэнергии специальными сертификатами.

5️⃣ Индонезия 5 августа представила подход к развитию национальной инфраструктуры ИИ. Власти намерены одновременно стимулировать инвестиции и установить требования к безопасности, устойчивости инфраструктуры и государственному контролю.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣  Власти и бизнес начали дорабатывать правила использования защищённого контента для обучения ИИ. Объединения правообладателей собирают предложения по поправкам в законодательство, которые призваны защитить их интересы при использовании контента для обучения систем ИИ.

2️⃣ АСИ разъяснило новые правила патентной охраны цифровых разработок. Агентство сообщило, что патент можно будет получить на техническое решение, где новый результат достигается за счёт программного обеспечения. Изменения также затрагивают отдельные разработки с применением ИИ.

3️⃣ В АНО "Цифровая Экономика" сообщили о приоритетных сферах для внедрения суверенных и национальных моделей ИИ — образование и государственные услуги.

4️⃣ Крупнейшие российские ИТ-компании предложили разрешить использовать обезличенные персональные данные для обучения ИИ без отдельного согласия граждан. Инициатива предполагает такую обработку при минимальном риске повторной идентификации и только российскими компаниями на территории РФ.

5️⃣ Правительство поручило подготовить отраслевые планы внедрения российских решений с использованием ИИ в ключевых сферах экономики. Поручения были опубликованы 8 августа.