Телеграм канал «HCAI // Регулирование ИИ»

🌐 Международный Альянс в сфере ИИ: ежегодная рабочая сессия на AIJ-2025 Сегодня, 21 ноября, на полях AI Journey 2025 в Москве прошла ежегодная рабочая сессия Международного Альянса в сфере искусственного интеллекта. Встреча прошла на площадке Сбера с участием представителей стран БРИКС+ и других государств. Заместитель Председателя Правительства РФ Дмитрий Чернышенко, заместитель министра иностранных дел РФ Сергей Вершинин и первый зампред правления Сбера, председатель Наблюдательного совета Российского Альянса в сфере ИИ Александр Ведяхин подтвердили поддержку международного сотрудничества в сфере ИИ и развития Альянса как глобальной сети партнёров. 💬 Александр Ведяхин отметил: «Развитие международного сотрудничества является для нас приоритетом, поскольку развитие технологий ИИ должно служить всеобщему благу. Для этого необходимо объединяться». 🤝 Расширение Международного Альянса в сфере ИИ 🔵 Альянс, запущенный в декабре 2024 года, за год вырос до 2️⃣8️⃣ организаций из 2️⃣1️⃣ страны; 🔵 К Альянсу присоединились ассоциации и научно-исследовательские институты из стран Латинской Америки, Африки, Ближнего Востока и Азии; 🔵 Отдельные организации получили статус наблюдателей и смогут участвовать в проектах Альянса. ✍️ Основные направления работы Альянса 🔵 Образование и кадры: совместные программы повышения квалификации, курсы, летние школы и обмен практиками по развитию AI-компетенций; 🔵 AI governance и безопасность: обмен лучшими практиками регулирования и саморегулирования, работа над принципами ответственного и этичного применения ИИ; 🔵 Международный научно-исследовательский проект «AI Horizons»: представление результатов серии форсайт-сессий по долгосрочным сценариям развития ИИ; 🔵 BRICS+ AI Success Hub: площадка для демонстрации успешных AI-кейсов и развития моделей сотрудничества «Юг–Юг». 🔍Участники Альянса также определили формат дальнейшего взаимодействия и сформировали предварительный перечень приоритетных направлений совместной работы на 2026 год. #ИИ #AI #AIAlliance #AIJourney2025

👍 AIJ 2025: Путешествие в мир искусственного интеллекта. Итоги первого дня. Сегодня, 19 ноября, стартовала ежегодная международная конференция, посвящённая развитию ИИ – AI Journey («Путешествие в мир искусственного интеллекта»). Президент России Владимир Владимирович Путин Президент осмотрел выставку достижений российских компаний в сфере ИИ в рамках конференции, а также принял участие в пленарном заседании. 🇷🇺 Основные заявления Президента России: 🔵 Технологии генеративного ИИ становятся ключевыми, за их обладание конкурируют ведущие государства; 🔵 РФ не может допустить критическую зависимость от чужих ИИ-технологий, это вопрос суверенитета; 🔵 России нужен штаб по руководству отраслью ИИ; 🔵 Следует быстрее убирать административные и правовые барьеры, мешающие созданию и внедрению суверенных отечественных технологий; 🔵 Нужно шире использовать инструменты мягкого права (прежде всего Кодекс этики в сфере ИИ); 🔵 Необходимо гармонизировать законодательство союзных стран (Евразэс, БРИКС, ШОС) в части внедрения ИИ. ❗️ Президент России также поручил правительству и регионам сформировать национальный план внедрения генеративного ИИ. 🌐 Также в присутствии Владимира Владимировича Путина, к Международному Альянсу в сфере искусственного интеллекта присоединились новые участники из следующих стран: 🇪🇬 Арабская Республика Египет 🇻🇳 Вьетнам 🇰🇪 Кения 🇴🇲 Оман 🇮🇳 Республика Индия 🇨🇬 Республика Конго 🇨🇱 Республика Чили 🇹🇿 Танзания 🇹🇷 Турция 🇧🇷 Федеративная Республика Бразилия 🇿🇦 Южно-Африканская Республика В прошлом году на AIJ-2024 в рамках процедуры создания Международного Альянса в сфере ИИ к нему присоединилось 1️⃣7️⃣ национальных ассоциаций и институтов из 1️⃣4️⃣ стран мира. Сегодня количество участников увеличилось до 2️⃣8️⃣. 🤝 Владимир Владимирович поблагодарил председателя правления «Сбера» Германа Оскаровича Грефа, а также российский «Альянс в сфере искусственного интеллекта» за настойчивость в продвижении ценностей прогресса. #AIJ2025

🇺🇸 CEO Anthropic: без «ограждений» ИИ может пойти по опасному пути В интервью CBS/«60 Minutes» Дарио Амодей акцентировал безопасность и прозрачность как основу стратегии Anthropic, несмотря на отсутствие федеральных требований к safety-тестированию ИИ в США. 🔍 Что уже делает Anthropic для снижения рисков ИИ: ✅ Внутри Anthropic ~6️⃣0️⃣ исследовательских команд, занимающихся выявлением угроз, мерами защиты, оценкой экономических эффектов; ✅ Frontier Red Team проводит стресс-тесты каждой версии Claude; ✅ мониторинг развития автономности Claude: Frontier Red Team организовывает «как можно больше странных экспериментов и смотрит, что произойдёт»; ✅ также проводится контроль и оперативное устранение всех security-рисков; ✅ отдельные команды занимаются обучением Claude этичности и становлению «характера» чат-бота. 🧪Руководитель Frontier Red Team Логан Грэм отмечает, что особое внимание уделяется CBRN-рискам: химическим, биологическим, радиологическим и ядерным. Команда тщательно оценивает, может ли модель помочь кому-то создать оружие массового поражения. 💬 Дарио Амодей выдвинул формулу «сжатого XXI века»: «Идея в том, что когда мы доведём системы ИИ до такой мощности, что они смогут работать бок о бок с лучшими человеческими учёными, - сможем ли мы достичь десятикратного ускорения прогресса и, таким образом, “сжать” всё медицинское развитие, которое должно было произойти в XXI веке, в пять-десять лет?» Но для этого, подчёркивает он, нужны заранее выстроенные «ограждения» и подготовленное общество. #USA #Anthropic #AI #Safety #RedTeam #Regulation

🌐 ИИ в мире: топ-5 событий прошедшей недели 1️⃣ Европол призвал ускорить процедуры допуска к инструментам ИИ, заявив, что проверки по GDPR и AI Act тормозят расследования и мешают полиции реагировать на преступления. 2️⃣ Великобритания внесла поправки в закон о преступности, позволяющие тестировать ИИ-модели на способность создавать материалы сексуального насилия над детьми, чтобы выявлять такие риски до релиза. 3️⃣ Суд в Мюнхене признал, что OpenAI нарушила немецкое авторское право, обучив ChatGPT на текстах песен Герберта Грёнемайера. 4️⃣ Против Google подан иск за скрытый сбор данных пользователей через функции ИИ Gemini в Gmail и других сервисах. 5️⃣ OpenAI заявила, что оспаривает требование The New York Times предоставить 20 млн диалогов ChatGPT и призывает суд отклонить запрос.

🇷🇺 ИИ в России: топ-5 событий прошедшей недели 1️⃣ Вице-премьер Дмитрий Григоренко поручил внедрить ИИ минимум в три ведомственные информационные системы для оптимизации надзора за объектами бизнеса. 2️⃣ Депутаты планируют внести в Госдуму пакет законопроектов об обязательной маркировке сгенерированных ИИ видео. 3️⃣ Правительство РФ продлило эксперимент с беспилотными грузовиками до 2028 года и впервые разрешило им ездить без человека в кабине. 4️⃣ В Роспатенте сообщили о росте числа заявок на отечественные изобретения с использованием ИИ: нейросети фигурируют в 3–4% поданных разработок. 5️⃣ «Росатом» разрабатывает стандарты безопасного применения ИИ в атомной энергетике.

🇺🇸 В США представили законопроект о раскрытии влияния ИИ на занятость 5 ноября сенаторы Джош Хоули и Марк Уорнер представили «AI-Related Job Impacts Clarity Act», основной целью которого является анализ влияния технологий искусственного интеллекта на сферу занятости в США. 📍 Ключевые положения: 🔵 Публичные и крупные частные компании, а также федеральные ведомства 🔵 должны ежеквартально отчитываться в Минтруд США 🔵 о кадровых изменениях, вызванных ИИ (увольнения, сокращение найма, перераспределение ролей). Министерство, в свою очередь, должно агрегировать данные и публиковать общедоступный отчёт. 💬 Марк Уорнер так прокомментировал подготовленный законопроект: «Хорошая политика начинается с хороших данных. Этот двухпартийный законопроект наконец даст нам ясную картину влияния ИИ на рабочую силу: какие рабочие места исчезают, какие работники проходят переподготовку и где возникают новые возможности». #USA #AI #Regulation #Labor

💻 OpenAI представила «План безопасности подростков» для ChatGPT 6 ноября OpenAI опубликовала Teen Safety Blueprint – фреймворк для ответственной разработки ИИ, защищающий подростков и адаптирующий ChatGPT под пользователей младше 18 лет. 🔍 Основные положения: 🔵 автоматическая оценка возраста пользователя; 🔵 строгие правила модерации контента для несовершеннолетних (запрет описаний и изображений суицида, секса/насилия, опасных челленджей и т. д.); 🔵 детский режим по умолчанию при неопределённом возрасте; 🔵 напоминания о перерывах при длительном общении. 👨‍👩‍👧‍👦 Родители получат больше возможностей контролировать взаимодействие своего ребенка с чат-ботом: 🔵 привязывать аккаунт подростка (13+) к родительскому; 🔵 управлять настройками приватности (в т. ч. памятью и историей чатов); 🔵задавать «чёрные часы», когда подросток должен делать принудительный перерыв; 🔵 получать уведомления, если активность подростка указывает на намерение причинить себе вред. 🚑 Для кризисных случаев предусмотрено перенаправление к соответствующим службам поддержки, а при непосредственной угрозе себе или другим – сообщение в правоохранительные органы. 💬 По мнению OpenAI, безусловным приоритетом ИИ-разработчиков должно быть психическое здоровье подростков: компании должны внедрять научно обоснованные, регулярно обновляемые защиты при участии внешних экспертов. При этом OpenAI обещает открытость и обмен практиками, постоянный сбор обратной связи, а также работу со школами, родителями и госорганами, чтобы ИИ давал пользу без вреда. #AI #OpenAI #Safety #Children