Телеграм канал «Клуб CDO»

🛡 Новые угрозы от ИИ-помощников: как защитить систему от «супер-агентов»

Современные ИИ-агенты действительно могут принимать решения и выполнять сложные многошаговые задачи. Но что, если на одном из шагов агент выполнит непроверенный или вредоносный код — и даже не будет осознавать его опасность в момент исполнения?

Предлагаем разобраться с этим вопросом, опираясь на одно из последних технических руководств, где на примере ИИ-агентов рассматривают сценарии и методики их размещения в разных периметрах безопасности.

⚠️ ИИ-агент как источник риска

Проблема зависимостей в ПО существует давно. С приходом ИИ-агентов она обрела новое измерение: любой агент сам становится платформой для исполнения кода. И часто по умолчанию он имеет чрезмерные права доступа к файловой системе, сетям и другим приложениям.

🚫 Код красный — «супер-агенты» вроде Claude Code и OpenClaw

«Супер-агентов» (Claude Code Cowork, MoltCode, OpenClaw) устанавливают в несколько кликов, и они получают широкий доступ «для всех задач». Например, такой агент может создать таймер, собирать новости и отправлять их в мессенджер.

❗️А как же Copilot от Microsoft — он работает по тому же принципу?

Microsoft Copilot изначально работает в ограниченной «песочнице» для разработчиков. Пользовательские же супер-агенты, установленные без контроля, ничем не ограничены и могут превратить рабочую станцию в магнит для уязвимостей.

🛠 Решение — три обязательных правила безопасности
Эксперты и практика уже сформировали базовые меры защиты:

1️⃣Принцип минимальных привилегий
Сознательно ограничивайте права агента в системе. Если ему не нужен доступ в интернет или к определенным папкам — отзовите эти права.

2️⃣Изоляция в контейнерах
Стандартом становится «упаковка» супер-агента в изолированную среду, например, Docker-контейнер. Это предотвратит нежелательное воздействие на основную систему.

3️⃣Внимательное чтение документации
Изучайте разделы по безопасности (например, Security - OpenClaw). Часто там есть критически важные настройки, отключенные по умолчанию.

💎 Вывод
2026 год принесет нам еще больше мощных ИИ-инструментов. Но их мощь будет прямо пропорциональна уровню риска. Безопасность перестает быть опцией — она становится фундаментом для работы с любым автономным агентом.

AI Inside #безопасный_AI

в продолжение поста выше 🙂 не надо забывать и про другую сторону медали!

За эти выходные я собрал полностью рабочее мобильное приложение для CROSSx. Без какого-либо опыта мобильной разработки. Сегодня утром подключаю первых пользователей.

На столе лежал оффер от подрядчика — десятки тысяч долларов за тот же модуль. Сегодня я официально отказался.

Единственное реальное узкое место теперь — review в Apple Store. И это говорит само за себя: трение больше не там, где раньше. Не в разработке. В бюрократии.

Это сигнал о том, что значит быть «техническим сооснователем» в 2026 году. Ров больше не в умении писать код — он в понимании что строить и зачем. Claude Code закрыл слой реализации. Я закрыл слой суждений.

Но оффер подрядчика — это не просто сравнение стоимости. Это прокси на время. Недели согласования спецификаций, звонки на выравнивание, циклы правок, передача задач и неизбежный разговор «нам нужно пересмотреть требования». Весь этот цикл — исчез.

Настоящий прорыв этой технологии не в экономии денег. В сжатии итерационного цикла — с недель до часов. Это не линейное улучшение. Это фазовый переход.

Мир менялся не постепенно. Он щёлкнул.

Дайджест статей

📰: Путь в аналитику данных: базовый минимум для старта
Ссылка: https://habr.com/ru/articles/1003704/
Вывод одной строкой: Для успешного входа в аналитику данных необходимо освоить SQL, Python/R, основы статистики и визуализации данных, а также развивать навыки работы с бизнес-задачами и критического мышления, постепенно наращивая экспертизу через практические проекты и непрерывное обучение.


📰: BI-аналитик: стартовый пакет необходимых навыков
Ссылка: https://habr.com/ru/articles/1004298/
Вывод одной строкой: Для успешной работы BI-аналитиком необходимо освоить SQL для работы с базами данных, инструменты визуализации данных (Tableau, Power BI), основы статистики и аналитического мышления, а также развить навыки коммуникации для эффективного представления результатов анализа бизнес-заказчикам.


📰: Как мы улучшили рекомендации для пользователей Авито с помощью трансформенной персонализации
Ссылка: https://habr.com/ru/companies/avito/articles/1004694/
Вывод одной строкой: Трансформерная архитектура с механизмом внимания позволяет значительно повысить качество рекомендательных систем за счет более точного моделирования последовательности действий пользователя и учета долгосрочных зависимостей в его поведении.


📰: Data Mesh, Data Fabric, Lakehouse: разбираем модные термины
Ссылка: https://habr.com/ru/articles/1005062/
Вывод одной строкой: Современные архитектурные подходы Data Mesh, Data Fabric и Lakehouse решают разные задачи управления данными: децентрализацию и демократизацию доступа, интеллектуальную интеграцию разрозненных источников и унификацию аналитических и транзакционных нагрузок соответственно, поэтому выбор конкретного решения должен основываться на организационной структуре компании, существующей инфраструктуре и бизнес-целях.


📰: Data catalog есть, а пользы нет: Частые ошибки внедрения
Ссылка: https://habr.com/ru/articles/1003158/
Вывод одной строкой: Успешное внедрение каталога данных требует не только технической реализации, но и активного вовлечения пользователей, четкого определения процессов управления метаданными и постоянной поддержки культуры работы с данными в организации.

Перед длинными выходными хочу поделиться четырьмя текстами, которые за последнее время наделали больше всего шума в индустрии. Каждый из них разошёлся на цитаты, породил волну ответных статей — и за, и против — и вызвал серьёзную дискуссию. Если вы видели пересказы и чужие интерпретации, но не читали оригиналы — самое время.

А в комментариях накидайте, что запомнилось вам — кажется, у многих есть свои must-read за последнее время.

Matt Shumer — "Something Big Is Happening in AI" (Fortune)
CEO AI-стартапа написал пост-предупреждение для людей вне индустрии. Сравнивает текущий момент с февралём 2020-го, когда про ковид ещё никто не волновался. Текст набрал 50+ млн просмотров. Можно спорить с аналогией, но описание того, как AI уже изменил его собственную работу — это не прогноз, а отчёт с передовой.
https://fortune.com/2026/02/11/something-big-is-happening-ai-february-2020-moment-matt-shumer/

Citrini Research — "The 2028 Global Intelligence Crisis"
Это мысленный эксперимент: макроэкономический memo из июня 2028 года. Авторы моделируют сценарий, в котором AI-оптимизм оказывается... медвежьим. Ghost GDP, спираль вытеснения белых воротничков, коллапс SaaS, кризис ипотечного рынка. Не прогноз, а стресс-тест. Но написано так, что после прочтения хочется пересмотреть свой портфель.
https://www.citriniresearch.com/p/2028gic

Dario Amodei — "The Adolescence of Technology"
CEO Anthropic написал по сути развёрнутый стратегический документ о рисках мощного AI. Пять категорий угроз — от автономности моделей до экономической концентрации власти. Без алармизма, с конкретными предложениями. Это, пожалуй, самый взвешенный текст о рисках AI от человека, который этот AI непосредственно строит.
https://www.darioamodei.com/essay/the-adolescence-of-technology

Narayanan & Kapoor — "AI as Normal Technology" (Knight Columbia)
Холодный душ после трёх предыдущих текстов. Авторы из Принстона аргументируют: AI — это нормальная технология, не сверхразум. Диффузия медленная, бенчмарки не отражают реальность, а контроль — это инженерная задача, а не экзистенциальная. Отличный контрапункт к остальным текстам в этом списке.
https://knightcolumbia.org/content/ai-as-normal-technology?utm_source=substack&utm_medium=email

найди себя на фото

VK Tech собирают CDO, CIO и CTO крупного бизнеса на закрытый вечерний нетворкинг — и там ещё есть места.
Формат без воды: небольшая дискуссия плюс живое общение с теми, кто реально принимает решения по данным и инфраструктуре в крупных компаниях. Не конференция, не питчинг, не панель из 12 спикеров — просто нужные люди в одной комнате.

Если ваша работа пересекается с CDO-уровнем или вы сами из этой категории — такие вечера часто дают больше, чем три дня на большой отраслевой конференции. Меньше шума, выше концентрация решений.

Детали и регистрация: cloud.vk.com/events/vecher-liderov-dannyh