Телеграм канал «HCAI // Регулирование ИИ»

🚀Команда Департамента развития искусственного интеллекта и машинного обучения Сбера (Сбер AI) ищет технического лидера направления DS/AI.

Чем предстоит заниматься?

✅ Разрабатывать и валидировать модели под задачи агентов, доводить решения до внедрения
✅ Проектировать архитектуру агентных решений — оркестрация, планирование, tool use, память, мультиагентные сценарии
✅ Выстраивать оценку качества там, где готовых бенчмарков нет: метрики, автотесты сценариев, контроль надёжности
✅ Технически вести направление AI-агентов: от гипотезы и прототипа до продакшена
✅ Растить экспертизу команды и задавать технические стандарты направления.

Почему это интересно?

🔹 Передовой стек и ранний доступ к моделям Сбера — работаете с фронтиром, а не догоняете его
🔹 Агенты в реальной эксплуатации, а не в демо: сложные домены, интеграции, требования к надёжности
🔹 Задачи без готовых решений — типовые практики здесь заканчиваются на первом шаге
🔹 Техническое лидерство без потери рук: вы принимаете архитектурные решения и сами остаётесь в коде
🔹 Траектория роста — от технического лидера направления до владельца технологического портфеля
🔹 Видимость: AI Journey, публикации, выступления, сообщество практиков.

Вас ждут, если вы

🟢 Строили решения на LLM и понимаете, как устроены модели внутри
🟢 Проектировали агентные или сложные LLM-пайплайны и доводили их до продакшена
🟢Умеете принимать технические решения за направление и защищать их.

Как откликнуться?

📩 Контакты для отправки резюме в Telegram рекрутеру:
@skornyakova_sofya

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Верховный народный суд Китая установил⁠ правила рассмотрения споров, связанных с ИИ. Они определяют подходы к ответственности разработчиков и платформ, защите персональных данных, беспилотному транспорту, дипфейкам, авторским правам и использованию данных для обучения моделей.

2️⃣ Китайские регуляторы утвердили⁠ 47 новых национальных стандартов для ИИ и интеллектуальных сервисов. Они устанавливают требования к тестированию, совместимости и оценке качества технологий в различных отраслях.

3️⃣ Министерство образования Мексики и ЮНЕСКО договорились⁠ совместно разрабатывать подходы к этичному использованию ИИ в образовании. ЮНЕСКО окажет техническую поддержку при разработке государственной политики и подготовке образовательной системы к внедрению технологии

4️⃣ Губернатор Калифорнии подписал⁠ два закона о независимой проверке ИИ-систем и закон об ИИ-чатботах для несовершеннолетних. Штат установит требования к организациям, которые оценивают безопасность и соответствие ИИ законодательству, а также создаст официальный реестр ИИ-аудиторов с требованиями к их квалификации и независимости. Для защиты несовершеннолетних разработчиков обяжут внедрять дополнительные меры безопасности и родительского контроля, а также регулярно оценивать риски для детей.

5️⃣ Лидеры стран БРИКС подтвердили⁠ обязательство реализовать общие принципы глобального управления ИИ. В принятой 12 сентября Делийской декларации страны договорились развивать безопасный и надежный ИИ, снижать связанные с ним риски и расширять международное сотрудничество в области стандартов и доступа к ИИ-ресурсам, особенно для стран Глобального Юга.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ Правительство РФ увеличило⁠ господдержку российских ИИ-проектов. Максимальную долю грантового финансирования особо значимых ИТ-проектов на базе отечественного ИИ повысили с 50% до 80% их стоимости. Размер гранта может составлять от 100 млн до 2 млрд рублей. Решение закреплено постановлением правительства от 7 сентября.

2️⃣ Минпросвещения выпустило⁠ рекомендации по использованию ИИ в школах. Учителя обязаны проверять созданные нейросетями материалы и маркировать их, не могут загружать в ИИ персональные данные учеников и использовать технологию при аттестации.

3️⃣ Верховный суд РФ оштрафовал⁠ представителя компании за использование сфальсифицированной с помощью ИИ судебной практики. Нейросеть исказила содержание реальных дел и придумала несуществующие решения. ВС подчеркнул, что участники процесса обязаны самостоятельно проверять подготовленные ИИ материалы

4️⃣ Агентство стратегических инициатив заключило⁠ соглашения с организациями из шести стран о развитии Новой технологической платформы БРИКС+. Одним из ключевых направлений сотрудничества станет ИИ наряду с кибербезопасностью, робототехникой и нейротехнологиями. К платформе присоединились партнеры из Китая, Индии, Индонезии, ЮАР, Ирана и Малайзии.

5️⃣ ГК «Солар», входящая в структуру «Ростелекома», ввела⁠ ограничения на использование ИИ во всех новых договорах с ИТ-подрядчиками. Нейросети можно применять только после согласования конкретной модели и сценария ее использования с заказчиком.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ В Госдуму внесли законопроект, который предлагает дать пользователям возможность отключать рекомендации материалов, созданных или существенно измененных с помощью ИИ. Такой контент при этом не будут блокировать: его по прежнему можно будет найти через поиск или открыть по прямой ссылке.

2️⃣ Верховный суд России предложил разработать общие этические правила использования ИИ в судах стран БРИКС. В частности, предлагается закрепить, что ИИ может помогать судье анализировать материалы и судебную практику, но не должен самостоятельно принимать окончательное решение по делу.

3️⃣ Российские суды начали применять четыре модели ИИ в тестовом режиме. Их обучают на правовых позициях Верховного суда и судебных решениях по наиболее важным для граждан и бизнеса вопросам. Технология должна помогать судьям искать нужную практику, выявлять противоречия и снижать риск ошибок.

4️⃣ Минпросвещения запустило обновленный курс «Россия — мои горизонты» для школьников. В программу вошло отдельное занятие об ИИ. Ученикам будут рассказывать, как ИИ применяется в экономике, социальной сфере и государственном управлении, а также знакомить их с профессиями, связанными с новыми технологиями.

5️⃣ Заместитель Руководителя Администрации Президента РФ Максим Орешкин на ВЭФ рассказал, как на Дальнем Востоке будут тестировать новые подходы к регулированию ИИ. С 2027 года там начнет действовать особый правовой режим, который позволит применять системы, где ИИ не только анализирует информацию, но и принимает конкретные решения под контролем человека. Сейчас работа таких систем законодательно не урегулирована. Поэтому сначала их планируют протестировать в сферах с низким уровнем риска, а полученный опыт использовать для выработки дальнейших правил регулирования.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю

1️⃣ Еврокомиссия отнесла ChatGPT к крупнейшим поисковым сервисам, на которые распространяются усиленные требования европейского Закона о цифровых услугах.

2️⃣ Высший избирательный суд Бразилии установил критерии, по которым созданные или измененные с помощью ИИ материалы будут считаться дипфейками во время выборов.

3️⃣ Власти Нью Йорка ввели годичный запрет на использование генеративного ИИ учениками государственных школ до восьмого класса включительно. В старших классах ИИ разрешат использовать только в отдельных учебных проектах под контролем школы.

4️⃣ Национальный совет по образованию Бразилии одобрил общие правила использования ИИ в школах и университетах. Младшие школьники смогут пользоваться такими системами только под контролем преподавателя. Для разных способов применения ИИ также хотят установить уровни риска, а наиболее опасные варианты запретить. Правила еще должен утвердить министр образования.

5️⃣ Министры стран G20 согласовали общие подходы к развитию и регулированию ИИ. Страны намерены совместно работать над стандартами безопасности, правилами использования интеллектуальной собственности и подготовкой работников к распространению новых технологий. Эти договоренности носят рекомендательный характер и сами по себе не устанавливают обязательных требований для компаний.

🌐 ИИ в мире: топ-5 событий за прошедшую неделю:

1️⃣ Правительство Японии утвердило новый кодекс для разработчиков генеративного ИИ. Компании должны раскрывать информацию об обучающих данных, учитывать права авторов и объяснять, какие меры они принимают для повышения прозрачности своих систем. Если разработчик решит не соблюдать отдельные положения кодекса, ему придется публично объяснить причины такого решения.

2️⃣ Губернатор Калифорнии Гэвин Ньюсом подписал закон, запрещающий заменять преподавателей Калифорнийского государственного университета искусственным интеллектом. ИИ можно использовать для помощи в учебном процессе, но вести курсы и отвечать за обучение студентов по прежнему должны преподаватели.

3️⃣ Федеральный суд США признал незаконным решение Пентагона ограничить использование технологий Anthropic. Конфликт возник после того, как компания отказалась разрешить применять свои модели для массовой слежки за гражданами и создания полностью автономного оружия. В ответ Пентагон включил Anthropic в список неблагонадежных поставщиков и потребовал от своих подрядчиков отказаться от ее технологий. Суд постановил, что у ведомства не было достаточных оснований для таких ограничений.

4️⃣ В Бразилии вступили в силу новые правила использования ИИ в медицине. Врач должен сообщать пациенту о существенном использовании ИИ, фиксировать его применение в медицинской документации и самостоятельно проверять рекомендации системы. Медицинские учреждения также обязаны оценивать риски используемых систем, а передавать ИИ окончательное решение о диагнозе или лечении запрещено.

5️⃣ Правительство Австралии и власти штатов договорились разработать единые правила в сфере ИИ. В частности, власти намерены установить обязательные требования к крупным центрам обработки данных, в том числе к расходу электроэнергии и воды и размещению новых объектов. Кроме того, планируется определить отдельные требования к обучению моделей ИИ. Новый закон рассчитывают принять в начале 2027 года.

🇷🇺 ИИ в России: топ-5 событий за прошедшую неделю

1️⃣ ФСТЭК предложила новые требования к защите ИИ в государственных информационных системах. Модели ИИ предлагается размещать в отдельном защищенном сегменте, доступ к которому будет осуществляться с многофакторной аутентификацией. Для систем, работающих с информацией ограниченного доступа, также предусмотрены фильтрация запросов и ответов, контроль доступа к моделям и дополнительные требования к ИИ агентам.

2️⃣ Правительственная подкомиссия по развитию ИИ обсудила налоговые льготы для компаний, которые покупают оборудование для разработки и работы систем ИИ. Власти также намерены определить критерии, по которым такое оборудование можно будет отличить от техники для майнинга, и пересмотреть требования к его локализации в России. Первые предложения планируется подготовить до конца сентября.

3️⃣ Минцифры и Минпромторг начали разрабатывать единые правила взаимодействия ИИ агентов с российским промышленным программным обеспечением. Разработчикам могут предложить использовать открытые протоколы, чтобы предприятия могли подключать к программам ИИ агентов разных производителей. Новые правила должны помешать поставщикам программного обеспечения искусственно ограничивать использование сторонних решений.

4️⃣ Минцифры не поддержало предложение о выплатах авторам за произведения, которые ранее использовались для обучения моделей ИИ. Речь шла о разовой компенсации за уже использованные материалы. В министерстве считают, что права авторов необходимо учитывать при разработке правил для обучения ИИ, однако предложенный механизм выплат требует дальнейшего обсуждения.

5️⃣ Минпросвещения запустило первую федеральную программу обучения учителей работе с ИИ, которую до конца года смогут пройти 250 тыс. педагогов. Одновременно ведомство объявило о введении со второй четверти курса «Искусственный интеллект и информационная безопасность» для школьников. На занятиях ученикам будут рассказывать о возможностях ИИ, связанных с ним угрозах и правилах безопасного использования новых технологий.