Телеграм канал «HCAI // Регулирование ИИ»

🇪🇺 Еврокомиссия предложила упростить правила в сфере ИИ, кибербезопасности и данных Еврокомиссия представила «цифровой пакет», направленный на создание для европейских компаний возможностей для роста и сохранения технологического лидерства. 🎯 Цель пакета – упростить соблюдение требований: ожидается экономия до 5️⃣ млрд евро административных затрат к 2029 году. 🔍Что включает пакет: 1️⃣ Digital Omnibus, который упрощает правила по ИИ, кибербезопасности и данным. 2️⃣ Data Union Strategy для раскрытия доступа к высококачественным данным для ИИ. 3️⃣ European Business Wallets — единая цифровая идентичность для компаний. 👍 Ключевые изменения в части ИИ (AI Act) 🔵 применение правил для высокорисковых систем увязывается с готовностью стандартов и инструментов поддержки; 🔵 сроки применения правил для высокорисковых систем скорректированы до максимум 16 месяцев; 🔵 расширяется ряд льгот, предоставленных малым и средним предприятиям; 🔵 больше регуляторных песочниц; 🔵 усиление AI Office и централизация надзора за системами на GPAI. 🛡 Конфиденциальность и Data Union Strategy 🔵 адресные правки к GDPR для гармонизации/упрощения соблюдения без изменения «ядра» защиты; 🔵 доступ к качественным, «свежим» датасетам для европейских ИИ-компаний; 🔵 создание инструментария против «утечек» данных. 💼 European Business Wallet Предложение предусматривает единый цифровой инструмент для компаний и органов государственного сектора Европы, позволяющий оцифровать операции и взаимодействия, которые во многих случаях пока требуют личного присутствия. Европейская комиссия ожидает, что благодаря данным нововведениям европейские компании - от заводов до стартапов - будут тратить меньше времени на администрирование и соответствие требованиям и больше - на инновации и масштабирование. #EU #Regulation #DigitalOmnibus #AIAct #GDPR #DataUnion

🌐 ИИ в мире: топ-5 событий прошедшей недели 1️⃣ ООН призвала государства внедрять в национальные законы механизмы регулирования ИИ, основанные на международном праве, и повышать требования к прозрачности частного сектора. 2️⃣ Страны G20 договорились развивать международное сотрудничество, чтобы распределить преимущества ИИ и смягчить возможные риски. 3️⃣ Президент Казахстана подписал закон Республики Казахстан «Об искусственном интеллекте», направленный на внедрение ИИ в экономику и государственные сервисы. 4️⃣ Еврокомиссия предложила смягчить ряд правил об ИИ и защите данных, чтобы ускорить инновации и снизить давление на европейский технологический сектор. 5️⃣ Спустя несколько дней после появления информации о проекте указа Дональда Трампа, который позволял бы оспаривать законы штатов об ИИ в судебном порядке и удерживать федеральное финансирование, Белый дом приостановил работу над этой инициативой.

🇷🇺 ИИ в России: топ-5 событий прошедшей недели 1️⃣ Президент России поручил сформировать единый штаб по развитию ИИ и национальный план внедрения генеративного ИИ на уровне всей страны, а также предложил странам партнерам гармонизовать законодательство в сфере ИИ. 2️⃣ Вице-премьер Дмитрий Чернышенко подвел итоги Международного форсайта в сфере ИИ: 270 учёных из разных стран подготовили отчёт, который планируют направить в ООН от имени Международного альянса в сфере ИИ. 3️⃣ В Москве прошло второе заседание Международного Альянса в сфере ИИ: к Альянсу присоединились 11 новых организаций из стран Латинской Америки, Африки, Ближнего Востока и Азии. 4️⃣ Банк России создал рабочую группу для определения подходов к определению ответственности при использовании ИИ на финансовом рынке. 5️⃣ Госдума в первом чтении одобрила закон, который позволит патентовать ИИ-решения, включая функциональные нейросети и системы машинного обучения.

🌐 Международный Альянс в сфере ИИ: ежегодная рабочая сессия на AIJ-2025 Сегодня, 21 ноября, на полях AI Journey 2025 в Москве прошла ежегодная рабочая сессия Международного Альянса в сфере искусственного интеллекта. Встреча прошла на площадке Сбера с участием представителей стран БРИКС+ и других государств. Заместитель Председателя Правительства РФ Дмитрий Чернышенко, заместитель министра иностранных дел РФ Сергей Вершинин и первый зампред правления Сбера, председатель Наблюдательного совета Российского Альянса в сфере ИИ Александр Ведяхин подтвердили поддержку международного сотрудничества в сфере ИИ и развития Альянса как глобальной сети партнёров. 💬 Александр Ведяхин отметил: «Развитие международного сотрудничества является для нас приоритетом, поскольку развитие технологий ИИ должно служить всеобщему благу. Для этого необходимо объединяться». 🤝 Расширение Международного Альянса в сфере ИИ 🔵 Альянс, запущенный в декабре 2024 года, за год вырос до 2️⃣8️⃣ организаций из 2️⃣1️⃣ страны; 🔵 К Альянсу присоединились ассоциации и научно-исследовательские институты из стран Латинской Америки, Африки, Ближнего Востока и Азии; 🔵 Отдельные организации получили статус наблюдателей и смогут участвовать в проектах Альянса. ✍️ Основные направления работы Альянса 🔵 Образование и кадры: совместные программы повышения квалификации, курсы, летние школы и обмен практиками по развитию AI-компетенций; 🔵 AI governance и безопасность: обмен лучшими практиками регулирования и саморегулирования, работа над принципами ответственного и этичного применения ИИ; 🔵 Международный научно-исследовательский проект «AI Horizons»: представление результатов серии форсайт-сессий по долгосрочным сценариям развития ИИ; 🔵 BRICS+ AI Success Hub: площадка для демонстрации успешных AI-кейсов и развития моделей сотрудничества «Юг–Юг». 🔍Участники Альянса также определили формат дальнейшего взаимодействия и сформировали предварительный перечень приоритетных направлений совместной работы на 2026 год. #ИИ #AI #AIAlliance #AIJourney2025

👍 AIJ 2025: Путешествие в мир искусственного интеллекта. Итоги первого дня. Сегодня, 19 ноября, стартовала ежегодная международная конференция, посвящённая развитию ИИ – AI Journey («Путешествие в мир искусственного интеллекта»). Президент России Владимир Владимирович Путин Президент осмотрел выставку достижений российских компаний в сфере ИИ в рамках конференции, а также принял участие в пленарном заседании. 🇷🇺 Основные заявления Президента России: 🔵 Технологии генеративного ИИ становятся ключевыми, за их обладание конкурируют ведущие государства; 🔵 РФ не может допустить критическую зависимость от чужих ИИ-технологий, это вопрос суверенитета; 🔵 России нужен штаб по руководству отраслью ИИ; 🔵 Следует быстрее убирать административные и правовые барьеры, мешающие созданию и внедрению суверенных отечественных технологий; 🔵 Нужно шире использовать инструменты мягкого права (прежде всего Кодекс этики в сфере ИИ); 🔵 Необходимо гармонизировать законодательство союзных стран (Евразэс, БРИКС, ШОС) в части внедрения ИИ. ❗️ Президент России также поручил правительству и регионам сформировать национальный план внедрения генеративного ИИ. 🌐 Также в присутствии Владимира Владимировича Путина, к Международному Альянсу в сфере искусственного интеллекта присоединились новые участники из следующих стран: 🇪🇬 Арабская Республика Египет 🇻🇳 Вьетнам 🇰🇪 Кения 🇴🇲 Оман 🇮🇳 Республика Индия 🇨🇬 Республика Конго 🇨🇱 Республика Чили 🇹🇿 Танзания 🇹🇷 Турция 🇧🇷 Федеративная Республика Бразилия 🇿🇦 Южно-Африканская Республика В прошлом году на AIJ-2024 в рамках процедуры создания Международного Альянса в сфере ИИ к нему присоединилось 1️⃣7️⃣ национальных ассоциаций и институтов из 1️⃣4️⃣ стран мира. Сегодня количество участников увеличилось до 2️⃣8️⃣. 🤝 Владимир Владимирович поблагодарил председателя правления «Сбера» Германа Оскаровича Грефа, а также российский «Альянс в сфере искусственного интеллекта» за настойчивость в продвижении ценностей прогресса. #AIJ2025

🇺🇸 CEO Anthropic: без «ограждений» ИИ может пойти по опасному пути В интервью CBS/«60 Minutes» Дарио Амодей акцентировал безопасность и прозрачность как основу стратегии Anthropic, несмотря на отсутствие федеральных требований к safety-тестированию ИИ в США. 🔍 Что уже делает Anthropic для снижения рисков ИИ: ✅ Внутри Anthropic ~6️⃣0️⃣ исследовательских команд, занимающихся выявлением угроз, мерами защиты, оценкой экономических эффектов; ✅ Frontier Red Team проводит стресс-тесты каждой версии Claude; ✅ мониторинг развития автономности Claude: Frontier Red Team организовывает «как можно больше странных экспериментов и смотрит, что произойдёт»; ✅ также проводится контроль и оперативное устранение всех security-рисков; ✅ отдельные команды занимаются обучением Claude этичности и становлению «характера» чат-бота. 🧪Руководитель Frontier Red Team Логан Грэм отмечает, что особое внимание уделяется CBRN-рискам: химическим, биологическим, радиологическим и ядерным. Команда тщательно оценивает, может ли модель помочь кому-то создать оружие массового поражения. 💬 Дарио Амодей выдвинул формулу «сжатого XXI века»: «Идея в том, что когда мы доведём системы ИИ до такой мощности, что они смогут работать бок о бок с лучшими человеческими учёными, - сможем ли мы достичь десятикратного ускорения прогресса и, таким образом, “сжать” всё медицинское развитие, которое должно было произойти в XXI веке, в пять-десять лет?» Но для этого, подчёркивает он, нужны заранее выстроенные «ограждения» и подготовленное общество. #USA #Anthropic #AI #Safety #RedTeam #Regulation

🌐 ИИ в мире: топ-5 событий прошедшей недели 1️⃣ Европол призвал ускорить процедуры допуска к инструментам ИИ, заявив, что проверки по GDPR и AI Act тормозят расследования и мешают полиции реагировать на преступления. 2️⃣ Великобритания внесла поправки в закон о преступности, позволяющие тестировать ИИ-модели на способность создавать материалы сексуального насилия над детьми, чтобы выявлять такие риски до релиза. 3️⃣ Суд в Мюнхене признал, что OpenAI нарушила немецкое авторское право, обучив ChatGPT на текстах песен Герберта Грёнемайера. 4️⃣ Против Google подан иск за скрытый сбор данных пользователей через функции ИИ Gemini в Gmail и других сервисах. 5️⃣ OpenAI заявила, что оспаривает требование The New York Times предоставить 20 млн диалогов ChatGPT и призывает суд отклонить запрос.