Телеграм канал «»

ФСТЭК впервые описала защиту ИИ мерами, а не терминами

12 апреля 2026 года вышла методичка к приказу 117. Раздел 3.18 целиком про ИИ. Формально для госсистем, фактически первый официальный чеклист для всех, у кого модель видит защищаемые данные.

Восемь требований по-человечески:

- среда обучения в отдельном сегменте, из неё не видно прод;
- датасеты из доверенных источников, с хэшами и версиями;
- чужие модели проверяются на закладки;
- целостность весов готовой модели, LoRA и RAG;
- журнал всех запросов и ответов, хранение год, проверка выхода на персданные;
- фильтры на входе и выходе, тесты на промпт-инъекции;
- внешний ИИ-сервис не слабее вашей системы, защищаемое ему не отдавать (п. 60 приказа).

В статье перевёл это в план на квартал и показал, где документ молчит про правильность решений модели.

https://ksim.pro/ru/blog/fstec-117-ai-section-in-practice/

Воздушный зазор был иллюзией и до ИИ. Теперь внутри контура живёт модель

Статья о киберустойчивости в энергетике на itsec.ru разобрала иллюзию полной изоляции и пробел в расследовании аварий. Согласен почти со всем и продолжаю.

Что меняет ИИ в контуре:

- зазор защищал от кода извне. Модель атакуют данными изнутри: отравленная выборка и подменённая телеметрия приходят с ваших же датчиков;
- агент становится субъектом: письмо подрядчика с инструкцией он выполнит, если оно похоже на задачу;
- модель переходит из business critical в mission critical незаметно: сначала советует, потом управляет уставкой. Классифицировать нужно путь решения, а не систему;
- комиссии по аварии нужны версия модели, выборка, входы и само решение.

Плюс три иллюзии 2026 года, которые я бы добавил в его список.

https://ksim.pro/ru/blog/air-gap-illusion-now-has-ai-inside/

187-ФЗ девять лет спустя: «не про нас» больше не работает

В 2017 году я писал про только что принятый закон о КИИ. Средний завод тогда честно решал, что это про энергетику и банки. Девять лет спустя эта позиция стала самой дорогой.

Что изменилось:

- с 1 сентября 2025 объекты КИИ задают типовые отраслевые перечни, а не ваша комиссия. Категорию нужно пересматривать;
- доверенные ПАК стали планом с датами до 2030 года;
- иностранные средства защиты на объектах КИИ вне закона с 1 января 2025 (Указ 250);
- приказ ФСТЭК 117 с марта 2026: регулятор спрашивает, что работает сегодня, а не что лежит в папке;
- уведомление НКЦКИ за 24 часа, штрафы по КоАП, уголовная ответственность по 274.1 УК.

В статье переписал свой чеклист 2017 года под 2026 год и описал первые три месяца работы для завода, который девять лет ничего не делал.

https://ksim.pro/ru/blog/187-fz-nine-years-later/

Голосовые агенты дошли до операций

ElevenLabs сообщает про 15 млн разговоров в неделю и оценку около 22 млрд долларов. Интересна не оценка, а то, чем агенты заняты: возвраты, страховые операции, бронирования. Голос вышел из демо и попал в обычные процессы.

Почему первым пошёл именно он: разговор короткий, сценарий узкий, результат проверяет машина, экономика считается в стоимости обращения.

Что отличает рабочего агента от демки:

- честная передача человеку вместе с контекстом;
- подтверждение необратимых операций;
- правила хранения записей и расшифровок;
- идентификация звонящего до разговора о деньгах;
- метрика доведённых до конца обращений.

Отдельно: запись разговора это персональные данные, а голос для установления личности уже биометрия. Вопрос "где физически хранится запись" задают поставщику до пилота.

Критерии выбора первого процесса разобрал в статье.

https://ksim.pro/ru/blog/voice-agents-reach-real-production/

Ваши ИИ-агенты ходят по системам с валидным токеном

На Dev Day в OpenAI рассказали, что строят отдельный механизм для контроля над множеством одновременно работающих агентов. Обычная наблюдаемость отвечает на вопрос «система жива». Для роя агентов вопрос другой: что они делают, кому это разрешено и как их остановить.

Что меняется:

- единица наблюдения – намерение и действие, а не запрос;
- нужен сквозной след от распоряжения человека до вызова инструмента, включая отказы по правам;
- аномалия измеряется в поведении: у агента с валидным токеном нет ни сигнатуры, ни подозрительного IP;
- алерт опаздывает за машинной скоростью, поэтому нужны бюджеты и остановка вызова до выполнения;
- нужна проверенная кнопка массовой остановки.

Разобрал практический минимум для компании, у которой агентов пока десяток, чтобы потом не переделывать на трёхстах.

https://ksim.pro/ru/blog/observability-for-swarms-of-ai-agents/

У агента появилась своя среда. И свои права в вашем репозитории

OpenAI добавила в Codex переиспользуемые облачные среды разработки: окружение живёт в облаке и доступно с разных устройств. Coding agent перестаёт быть автодополнением в редакторе и становится долгоживущим участником конвейера со своим состоянием и ключами.

Что приходится решать до первого запуска:

- чья это identity. Личный токен разработчика ломает аудит, сервисный аккаунт обрастает правами, рабочий вариант - короткоживущие права под задачу;
- что лежит в секретах среды и чем их ротировать;
- как отличить агентские коммиты от человеческих;
- куда среда может ходить в сеть.

И главный сдвиг: узким местом становится ревью, а не написание кода. Агент за ночь принесёт несколько аккуратных PR, а читать их будет тот же человек.

Разобрал, что настроить до того, как агент дойдёт до боевого репозитория.

https://ksim.pro/ru/blog/coding-agent-gets-its-own-environment/

Когда агентам нужен свой Kubernetes, а когда хватает cron

OpenClaw Enterprise развивается как open-source control plane для постоянно работающих AI-агентов: в проекте участвуют OpenAI, NVIDIA и Red Hat, а архитектура повторяет Kubernetes. Отдельный слой под агенты оформляется на глазах.

Сюжет знакомый: сначала процессы запускают руками, потом вокруг них вырастает слой оркестрации, и самоделка становится инфраструктурой. Для агентов этот слой закрывает шесть вещей:

- жизненный цикл и расписание;
- выдачу и отзыв доступов;
- жёсткие лимиты на расход токенов;
- изоляцию агентов друг от друга;
- наблюдаемость в одном журнале;
- единую кнопку остановки.

Нужно это при десятках постоянно работающих агентов. Двум скриптам по расписанию хватает cron, и платформа тут съест квартал. Признаки, по которым видно, что пора, и шесть шагов до выбора платформы разобрал по пунктам.

https://ksim.pro/ru/blog/agentops-control-plane-for-ai-agents/