Confidential Computing Consortium смещает внимание к безопасности ИИ-агентов и цифровому суверенитету Confidential Computing Consortium выделил четыре стратегических направления дальнейшей работы: Agentic AI. Цифровой суверенитет. Регуляторы и органы стандартизации. Образование, исследования и подготовка специалистов. На мероприятиях AGNTCon и MCPCon North America 22–23 октября отдельное внимание уделялось доверенной оркестрации ИИ-агентов, архитектуре изолированных сред выполнения и идентичности автономных систем. Среди обсуждавшихся направлений: аттестация оркестрации агентов; безопасная архитектура изоляции; идентичность и полномочия автономных исполнителей; применение Confidential Computing для защиты данных и моделей; развитие технических рекомендаций и открытых механизмов взаимодействия. В центре внимания оказывается не только защищённая среда, но и поведение автономного агента внутри неё и за её пределами. Для банка это принципиальное изменение модели угроз. ИИ-агент может получать доступ к данным, вызывать API, обращаться к инструментам, передавать результаты другим агентам и инициировать операции. Поэтому необходимо выделить три вопроса: Доверенная среда: где и в каком программном окружении работает агент? Идентичность и полномочия: какие ресурсы и операции ему разрешены? Контроль действий: кто проверяет, что конкретная операция соответствует политике банка? Даже если агент работает в TEE, это не означает, что ему можно предоставить неограниченный доступ к корпоративным системам. Перспективный подход — связывать аттестацию рабочей нагрузки с выдачей минимально необходимых полномочий, а критичные действия проверять непосредственно перед исполнением. Практический вывод: при разработке требований к доверенным ИИ-агентам следует предусмотреть не только аппаратную аттестацию, но и машинно-проверяемую идентичность, ограничение полномочий, контроль вызовов инструментов и аудит действий.

15 октября Китайская ассоциация интернета (ISC) вынесла на обсуждение проект отраслевого стандарта для банков, брокеров, страховщиков и поставщиков агентских платформ, который требует записывать промпты и ответы LLM, планирование задач и вызовы инструментов, а также каждый случай, когда человек перехватил управление: кто, когда, почему и с каким результатом. Журнал должен быть защищен от изменений, а любой результат должен прослеживаться до ответственного, запустившего промпт/агента.

Gartner назвал 10 главных технологических трендов 2027 года Gartner представил ежегодный прогноз Top Strategic Technology Trends for 2027. Основные направления - масштабирование автономных ИИ-систем, развитие инструментов управления ими, кибербезопасность и технологическая независимость Развитие ИИ за пределами текстовых моделей 1. Большие количественные модели (LQM) - анализ числовых данных, прогнозирование и оптимизация процессов. По прогнозу Gartner, к 2030 году они могут заменить LLM в 25% задач стратегического прогнозирования и моделирования 2. Голосовые модели с рассуждением (Speech Reasoning Models) - анализ речи, принятие решений и выполнение задач. К 2030 году более 70% корпоративных голосовых взаимодействий могут обрабатываться автономно 3. Модели мира (World Models) - моделирование физической среды и последствий действий для робототехники, автономного транспорта и промышленности Управление автономными ИИ-системами 4. Платформы контекста для ИИ (AI Context Platforms) - предоставление ИИ-агентам данных и бизнес-контекста для повышения точности решений и снижения затрат 5. Управление ИИ-агентами в разработке ПО (AI Coding Agent Harness) - координация автономных агентов, контроль качества кода и соблюдения требований безопасности 6. Цифровая идентификация ИИ-агентов (AI Agent Identity) - управление полномочиями и доступом автономных систем. По прогнозу Gartner, к 2028 году 25% нарушений корпоративной безопасности могут быть связаны со злоупотреблением полномочиями ИИ-агентов 7. Автономное устранение уязвимостей (Autonomous Exposure Remediation) - автоматическое выявление, приоритизация и устранение уязвимостей ИТ-инфраструктуры Технологическая независимость и новая архитектура ПО 8. Суверенные технологии (SovereignTech) - контроль над данными и инфраструктурой. К 2030 году более 75% организаций за пределами США могут внедрить стратегии цифрового суверенитета 9. Временные приложения (Disposable Applications) - создание ПО под конкретные задачи с возможностью быстрой замены или модификации 10.Биологические вычисления как сервис (Wetware as a Service) - использование живых биологических систем для вычислений в качестве альтернативы традиционной вычислительной инфраструктуре