Телеграм канал «Клуб CDO»

Традиционная космическая страничка

26 февраля 2025 года NASA запустило зонд Lunar Trailblazer - миссия за $72 млн для картографирования воды на Луне. Через сутки связь с аппаратом была потеряна навсегда. Год спустя NPR через запрос по закону о свободе информации добыл отчёт о причинах.

Причина оказалась обидно простой. Софт ориентации солнечных панелей развернул их на 180 градусов от Солнца. Не частично, не с отклонением - ровно в противоположную сторону. Аппарат построил Lockheed Martin, и комиссия NASA установила, что компания не провела надлежащего тестирования этого ПО перед запуском.

Но убил миссию не один баг. Бортовая система управления неисправностями - та самая, которая должна была спасти аппарат - начала принимать ошибочные решения одно за другим. Каскад. Операторы на Земле теоретически могли бы скорректировать ориентацию вручную, но цепочка софтверных сбоев сначала затруднила, а потом сделала это невозможным.

$72 миллиона потеряны из-за ошибки, которую можно было обнаружить одним интеграционным тестом до старта. Не нужен был ИИ, не нужен был гений. Нужен был человек, который запустил бы симуляцию и посмотрел, куда повернутся панели.

Космос не прощает пропущенных тестов. Впрочем, продакшен тоже.

https://www.npr.org/2026/02/26/nx-s1-5727622/nasa-lunar-trailblazer-moon-new-report-what-went-wrong

Прочитал статью Rahul Garg из Thoughtworks про Context Anchoring - и она навела меня на мысли, которые выходят далеко за пределы самой статьи.

Обратите внимание на любопытный момент: индустрия добралась до вопроса «что такое контекст и где его границы». Не в философском смысле — в инженерном. Люди буквально проектируют системы управления контекстом для AI-ассистентов. Но чтобы делать это эффективно, вам, оказывается, нужно сначала понять, а что такое контекст в вашей собственной жизни. Как вы сами передаёте его коллеге, который подключился к задаче на третий день? Как вы сами решаете, что важно запомнить, а что можно забыть? Это совершенно не очевидный термин, хотя мы пользуемся им каждый день.

Второй момент, который меня не перестаёт удивлять. Мы сами создали LLM. Казалось бы, должно быть довольно понятно, как они работают. Но нет - мы проводим эксперименты и обнаруживаем неожиданные вещи. Например, что модель помнит решение, но забывает причину этого решения. Что рассуждения деградируют быстрее фактов. Что автоматическое сжатие диалога убивает именно то, что имело наибольшую ценность - объяснение «почему». Мы исследуем собственное изобретение как чёрный ящик, и результаты нас удивляют. Есть в этом что-то ироничное.

Статья предлагает простое решение: вынести контекст решений наружу, в живой документ, который переживает сессию. Концепция здравая, но давайте честно - все текущие решения для работы LLM с контекстом довольно неказистые. RAG, векторные базы, сжатие диалогов - всё это попытки угадать, что именно понадобится модели на следующем шаге. Тут отдельная мега-задача, до которой индустрия по-настоящему ещё не добралась.

И вот что меня действительно зацепило в статье - ссылка на Architecture Decision Records. Автор описывает feature-документ как «живой ADR». А мы у себя в командах сейчас не просто развиваем практику ADR - мы обнаружили, что агентам эти записи помогают колоссально. Код показывает, что было реализовано. ADR показывает, что было отвергнуто и почему. И когда агент видит эту историю решений, он работает в рамках ваших практик и стандартов, а не «в вакууме».

По сути, ADR стали интерфейсом между человеческой инженерной культурой и AI-агентами. Такого применения Майкл Найгард в 2011 году точно не предполагал :)

https://martinfowler.com/articles/reduce-friction-ai/context-anchoring.html

Друзья, 7 апреля в Центре событий РБК пройдёт 15-й форум FINNEXT — одна из немногих площадок, где банки, финтех, ритейл и регуляторы разговаривают на одном языке и про конкретику, а не про «стратегические горизонты».

В этом году программа собрана вокруг вещей, которые реально определят ландшафт ближайших лет. Payment Battle — про борьбу за последнюю платёжную милю: QR-коды vs биометрия vs pay-сервисы, трансграничные расчёты без SWIFT, роль ЦФА и стейблкоинов в ВЭД. AI-Economy — про переход от AI-ассистентов к автономным агентным системам и мультиагентным архитектурам в финансах. И Banking as a Platform — про то, как банки становятся невидимыми операционными системами, а не приложениями с логотипом.

В спикерах — Игорь Маслов (CTO Т-Банка), Кирилл Когтев, исполнительный вице-президент Газпромбанка), Алексей Щавелёв (старший вице-президент ПСБ) и другие.

Отдельная история — Премия FINNEXT. Третий год подряд, и это возможность узнать о кейсах цифровой трансформации, которые дали измеримый результат, а не остались в презентациях. Шорт-лист сформирован - уже можно ознакомиться с кейсами номинантов, сделать ставки на победителя и прийти поболеть за своего фаворита.

Детали программы и регистрация — на сайте мероприятия.

https://finnext.ru/?rs=p_finnext2026_cdo

VTORNIK.Вечер #6

31 марта, с 19:00 до 21:00 мы рады вас пригласить на наш новый митап. В этот раз он пройдет как обычно офлайн, но на новой площадке (!). В этот раз вас ждет следующая программа:

————————————

1️⃣ Что не так с ИИ-проектами?
Согласно исследованию MIT, 95% ИИ проектов оканчиваются неудачей. Исходя из своего богатого опыта проектного управления и опыта работы с ИИ Юлия перечислит типовые ошибки и даст рекомендации как их избежать.

Спикер: Юлия Богачева, Еx-CPO AI-продуктов, Холдинг Т1

В прошлом CDO в Сбере и Член Правления и председатель R&D комитета в Ассоциации Больших Данных.


2️⃣ Детерминированный AI: ĸаĸ заставить агентов писать поддерживаемый ĸод
Как создать AI сотрудника, стандарты для их работы, собрать команду и организовать их работу.

Спикер: Сергей Спевак, AI-архитектор и Архитектор программных решений, Прогресс Терра

В прошлом IT-директор в «Снежной Королеве», CDO в Gipfel, ведущий архитектор домена в билайне, архитектор платформы «Самозанятые РФ»

————————————

📍 Место проведения: Офис наших партнеров — компании ГК «Солар», адрес: м. Охотный ряд / Площадь Революции / Театральная / Александровский сад, Никитский пер. 7с1, Москва, 2-й этаж.

Мероприятие бесплатное. Регистрация обязательна. Количество мест ограничено.

Будем рады всех видеть!

Коллеги, не пропустите уникальное мероприятие!

Одна из самых массовых и одновременно нерешённых проблем в ML-продуктах - как оценить реальное качество того, что система выдаёт пользователю. Поиск, рекомендации, диалоговые системы, ранжирование - везде одна и та же история: единственный достоверный сигнал приходит от живых пользователей. CTR, конверсии, жалобы. То есть сначала вы ломаете кому-то опыт, потом узнаёте об этом.

Отсюда целая индустрия ручной разметки и пост-оценки. Толпы аннотаторов, guidelines на десятки страниц, контроль inter-annotator agreement. Дорого, медленно, и всё равно не масштабируется. А главное - это всегда реактивный подход. Проблема уже случилась, вы её потом находите.

Команда Zalando сделала кое-что любопытное. Перед запуском магазинов в трёх новых странах (Португалия, Греция, Люксембург) они поставили LLM в позицию «судьи» - оценивать релевантность поисковой выдачи вместо людей, до того как первый живой пользователь увидит результаты. Подход спорный - LLM оценивает LLM, и вопросы к калибровке таких оценок никуда не делись. Но вот что интересно в реализации.

Они не просто прогнали запросы через модель. Они кластеризовали реальные поисковые запросы с существующих рынков по семантическому интенту, перевели их на язык нового рынка и сравнили, как система понимает одни и те же сущности в разных языках. Если в английском запросе «sneakers» распознаётся как категория обуви, а в португальском «ténis» путается с видом спорта «теннис» - это конкретный, actionable баг, найденный до запуска. Без единого живого пользователя.

Результат: в Португалии нашли проблемы с лемматизацией спортивных терминов, нераспознанные категории вроде «menina» (девочка), проблемы с целыми брендами, чьи товары оказались фактически не находимы через поиск. Всё починено до go-live. Стоимость полного прогона - 250 долларов и 3–5 часов. Ручная аннотация того же объёма заняла бы дни и стоила бы на порядки дороже.

Пока рано говорить, что LLM-as-a-judge заменит человеческую оценку полностью - edge cases, субъективность и модные тренды модель ловит слабо. Но как инструмент проактивного QA с покрытием, недоступным для ручной работы, - это рабочий паттерн. И применим он далеко за пределами поиска: любая система, где нужно оценить «а то ли мы показываем пользователю» - от чат-ботов до рекомендательных лент - может использовать тот же подход.

https://engineering.zalando.com/posts/2026/03/search-quality-assurance-with-llm-judge.html

Коллеги, обратите внимание на мероприятие, которое проводит ключевой игрок рынка управления данными в РФ — DIS Group.

2 апреля в Москве (и онлайн) пройдёт Data Summit 2026 — ежегодная конференция, посвящённая управлению данными и их монетизации. В этом году DIS Group отмечает 20 лет на рынке, и саммит обещает быть особенно насыщенным.

📈 В ближайшие годы рынок решений Data Lakehouse, Data Governance и управления мастер-данными для ИИ будет расти опережающими темпами. Всё благодаря активному внедрению ИИ‑технологий в работу с данными и бизнес‑процессы в крупных банках, компаниях и организациях.

❓ Хотите знать, как использовать эти тренды на пользу вашего бизнеса?
Приглашаем 2 апреля на Дата-саммит — ежегодное флагманское мероприятие в мире управления данных!

🎯 Что вас ждёт на Дата-саммите?
• Выступления и дискуссии с участием 30+ топ‑экспертов.
• Реальные кейсы от лидеров рынка.
• Темы и вопросы:
- применение ИИ в управлении данными: возможности и риски;
- платформенные решения: статика или пластичность;
- доступность и открытость данных: выгоды и затраты;
- безопасность данных с точки зрения контроля доступа, маскирования, рисков утечек данных.

🎤 Среди приглашённых спикеров — профильные эксперты ВТБ, Сбербанка, Росатома, «Магнит», ГК «Нацпроектстрой» и многих других ведущих компаний и организаций.
Участие бесплатное, но нужна регистрация.

Подробности и регистрация: https://data-summit.ru/