Телеграм канал «HCAI // Регулирование ИИ»

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Минпросвещения РФ регламентировало использование ИИ в школах. Нейросети нельзя применять на промежуточной и итоговой аттестации, а учителя должны проверять созданные ИИ материалы и несут ответственность за последствия их использования. Приоритет рекомендовано отдавать российским моделям и государственным образовательным сервисам.

2️⃣ Минфин и Федеральное казначейство утвердили план внедрения ИИ в систему госзакупок. Первый ИИ-агент в Единой информационной системе должен перейти в промышленную эксплуатацию в январе 2027 года и помогать специалистам работать с закупочной документацией и требованиями контрактной системы.

3️⃣ В Госдуме создадут отдельный комитет по цифровому развитию и искусственному интеллекту. Он появится в парламенте нового созыва и будет заниматься профильной законопроектной работой в сфере цифровых технологий и ИИ. Ранее эти вопросы были распределены между другими комитетами.

4️⃣ Минтранс готовит отдельный закон о беспилотном транспорте. Ведомство сообщило, что в ближайшие недели внесёт в Госдуму законопроект о высокоавтоматизированных транспортных средствах. Он должен сформировать постоянные правила эксплуатации беспилотного транспорта вместо действующих экспериментальных режимов.

5️⃣ Зампред Совбеза Дмитрий Медведев предложил государствам договориться об общих принципах регулирования ИИ. По его словам, единые международные правила могли бы помочь контролировать развитие технологии и снизить риски масштабного ущерба от её неконтролируемого применения.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ В Саудовской Аравии начали применять национальные стандарты для образовательных программ в сфере данных и ИИ. Они устанавливают требования к качеству подготовки, соответствию программ профессиональным требованиям и соблюдению принципов этичного использования ИИ.

2️⃣ Министерство юстиции Аргентины создало специальный орган по вопросам использования ИИ в системе правосудия. Он будет координировать внедрение технологии в судах и государственных юридических службах и вырабатывать единые подходы к ее применению

3️⃣ В Перу начали действовать новые требования к ИИ-системам высокого риска в здравоохранении, образовании, правосудии, безопасности и финансовой сфере. Компании обязаны обеспечивать прозрачность алгоритмов и контроль со стороны человека, вести учет таких систем и соблюдать дополнительные требования при работе с чувствительными данными

4️⃣ Более 20 стран призвали усилить международный контроль за наиболее мощными ИИ-моделями. Они предложили ввести общие стандарты безопасности и механизм независимых проверок, а также рассмотреть создание международного органа, который сможет устанавливать стандарты и контролировать их соблюдение

5️⃣ Филиппины утвердили национальные правила использования ИИ в вузах. Они устанавливают требования к защите данных, контролю со стороны человека и оценке рисков ИИ-систем, в том числе при выставлении оценок, приеме студентов и назначении стипендий.

🚀Команда Департамента развития искусственного интеллекта и машинного обучения Сбера (Сбер AI) ищет технического лидера направления DS/AI.

Чем предстоит заниматься?

✅ Разрабатывать и валидировать модели под задачи агентов, доводить решения до внедрения
✅ Проектировать архитектуру агентных решений — оркестрация, планирование, tool use, память, мультиагентные сценарии
✅ Выстраивать оценку качества там, где готовых бенчмарков нет: метрики, автотесты сценариев, контроль надёжности
✅ Технически вести направление AI-агентов: от гипотезы и прототипа до продакшена
✅ Растить экспертизу команды и задавать технические стандарты направления.

Почему это интересно?

🔹 Передовой стек и ранний доступ к моделям Сбера — работаете с фронтиром, а не догоняете его
🔹 Агенты в реальной эксплуатации, а не в демо: сложные домены, интеграции, требования к надёжности
🔹 Задачи без готовых решений — типовые практики здесь заканчиваются на первом шаге
🔹 Техническое лидерство без потери рук: вы принимаете архитектурные решения и сами остаётесь в коде
🔹 Траектория роста — от технического лидера направления до владельца технологического портфеля
🔹 Видимость: AI Journey, публикации, выступления, сообщество практиков.

Вас ждут, если вы

🟢 Строили решения на LLM и понимаете, как устроены модели внутри
🟢 Проектировали агентные или сложные LLM-пайплайны и доводили их до продакшена
🟢Умеете принимать технические решения за направление и защищать их.

Как откликнуться?

📩 Контакты для отправки резюме в Telegram рекрутеру:
@skornyakova_sofya

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Верховный народный суд Китая установил⁠ правила рассмотрения споров, связанных с ИИ. Они определяют подходы к ответственности разработчиков и платформ, защите персональных данных, беспилотному транспорту, дипфейкам, авторским правам и использованию данных для обучения моделей.

2️⃣ Китайские регуляторы утвердили⁠ 47 новых национальных стандартов для ИИ и интеллектуальных сервисов. Они устанавливают требования к тестированию, совместимости и оценке качества технологий в различных отраслях.

3️⃣ Министерство образования Мексики и ЮНЕСКО договорились⁠ совместно разрабатывать подходы к этичному использованию ИИ в образовании. ЮНЕСКО окажет техническую поддержку при разработке государственной политики и подготовке образовательной системы к внедрению технологии

4️⃣ Губернатор Калифорнии подписал⁠ два закона о независимой проверке ИИ-систем и закон об ИИ-чатботах для несовершеннолетних. Штат установит требования к организациям, которые оценивают безопасность и соответствие ИИ законодательству, а также создаст официальный реестр ИИ-аудиторов с требованиями к их квалификации и независимости. Для защиты несовершеннолетних разработчиков обяжут внедрять дополнительные меры безопасности и родительского контроля, а также регулярно оценивать риски для детей.

5️⃣ Лидеры стран БРИКС подтвердили⁠ обязательство реализовать общие принципы глобального управления ИИ. В принятой 12 сентября Делийской декларации страны договорились развивать безопасный и надежный ИИ, снижать связанные с ним риски и расширять международное сотрудничество в области стандартов и доступа к ИИ-ресурсам, особенно для стран Глобального Юга.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Правительство РФ увеличило⁠ господдержку российских ИИ-проектов. Максимальную долю грантового финансирования особо значимых ИТ-проектов на базе отечественного ИИ повысили с 50% до 80% их стоимости. Размер гранта может составлять от 100 млн до 2 млрд рублей. Решение закреплено постановлением правительства от 7 сентября.

2️⃣ Минпросвещения выпустило⁠ рекомендации по использованию ИИ в школах. Учителя обязаны проверять созданные нейросетями материалы и маркировать их, не могут загружать в ИИ персональные данные учеников и использовать технологию при аттестации.

3️⃣ Верховный суд РФ оштрафовал⁠ представителя компании за использование сфальсифицированной с помощью ИИ судебной практики. Нейросеть исказила содержание реальных дел и придумала несуществующие решения. ВС подчеркнул, что участники процесса обязаны самостоятельно проверять подготовленные ИИ материалы

4️⃣ Агентство стратегических инициатив заключило⁠ соглашения с организациями из шести стран о развитии Новой технологической платформы БРИКС+. Одним из ключевых направлений сотрудничества станет ИИ наряду с кибербезопасностью, робототехникой и нейротехнологиями. К платформе присоединились партнеры из Китая, Индии, Индонезии, ЮАР, Ирана и Малайзии.

5️⃣ ГК «Солар», входящая в структуру «Ростелекома», ввела⁠ ограничения на использование ИИ во всех новых договорах с ИТ-подрядчиками. Нейросети можно применять только после согласования конкретной модели и сценария ее использования с заказчиком.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ В Госдуму внесли законопроект, который предлагает дать пользователям возможность отключать рекомендации материалов, созданных или существенно измененных с помощью ИИ. Такой контент при этом не будут блокировать: его по прежнему можно будет найти через поиск или открыть по прямой ссылке.

2️⃣ Верховный суд России предложил разработать общие этические правила использования ИИ в судах стран БРИКС. В частности, предлагается закрепить, что ИИ может помогать судье анализировать материалы и судебную практику, но не должен самостоятельно принимать окончательное решение по делу.

3️⃣ Российские суды начали применять четыре модели ИИ в тестовом режиме. Их обучают на правовых позициях Верховного суда и судебных решениях по наиболее важным для граждан и бизнеса вопросам. Технология должна помогать судьям искать нужную практику, выявлять противоречия и снижать риск ошибок.

4️⃣ Минпросвещения запустило обновленный курс «Россия — мои горизонты» для школьников. В программу вошло отдельное занятие об ИИ. Ученикам будут рассказывать, как ИИ применяется в экономике, социальной сфере и государственном управлении, а также знакомить их с профессиями, связанными с новыми технологиями.

5️⃣ Заместитель Руководителя Администрации Президента РФ Максим Орешкин на ВЭФ рассказал, как на Дальнем Востоке будут тестировать новые подходы к регулированию ИИ. С 2027 года там начнет действовать особый правовой режим, который позволит применять системы, где ИИ не только анализирует информацию, но и принимает конкретные решения под контролем человека. Сейчас работа таких систем законодательно не урегулирована. Поэтому сначала их планируют протестировать в сферах с низким уровнем риска, а полученный опыт использовать для выработки дальнейших правил регулирования.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Еврокомиссия отнесла ChatGPT к крупнейшим поисковым сервисам, на которые распространяются усиленные требования европейского Закона о цифровых услугах.

2️⃣ Высший избирательный суд Бразилии установил критерии, по которым созданные или измененные с помощью ИИ материалы будут считаться дипфейками во время выборов.

3️⃣ Власти Нью Йорка ввели годичный запрет на использование генеративного ИИ учениками государственных школ до восьмого класса включительно. В старших классах ИИ разрешат использовать только в отдельных учебных проектах под контролем школы.

4️⃣ Национальный совет по образованию Бразилии одобрил общие правила использования ИИ в школах и университетах. Младшие школьники смогут пользоваться такими системами только под контролем преподавателя. Для разных способов применения ИИ также хотят установить уровни риска, а наиболее опасные варианты запретить. Правила еще должен утвердить министр образования.

5️⃣ Министры стран G20 согласовали общие подходы к развитию и регулированию ИИ. Страны намерены совместно работать над стандартами безопасности, правилами использования интеллектуальной собственности и подготовкой работников к распространению новых технологий. Эти договоренности носят рекомендательный характер и сами по себе не устанавливают обязательных требований для компаний.