Всем привет! 👋 На выходных прочитал свежий пост от DeepSeek. Ребята выложили техническое описание архитектуры «супер-агента» — как обычно без помпы, в отличие от американских лаб, которые в последнее время больше занимаются маркетингом. Почему сейчас? Модель уже почти не нужно контролировать на каждом шаге, а человек не держит больше 3–5 параллельных задач в голове, дальше начинаются переключения и прочие «а где мы это обсуждали». Пока агент — это набор отдельных сессий, скорость упирается не в модель, а во внимание человека. Как это пытаются обойти? Сверху — один постоянный роутер, отдельная долгоживущая сессия: он разговаривает с людьми, решает, кому какую задачу отдать, и сам ничего не выполняет, ему даже терминал не нужен. Снизу — исполнители: у каждого своя задача, свой контекст и полный набор инструментов, с людьми они не общаются и докладывают только наверх. Это почти как стандартная механика субагентов, только есть дополнительное управление сессиями через базу. Интересно, что даже сейчас без дополнительного харнеса если вы часто используете агентов, то можете заметить, что они РЕАЛЬНО ЧАСТО ищут подсказки по контексту в прошлых сессиях своего харнеса. Что можно забрать? — Фильтр в две ступени. Сначала простой код отсекает шум по источнику, группе и спискам разрешённых, а модель смотрит только то, что осталось. — Контекст как кэш: нужное кладём сразу, длинное выносим за пределы окна и оставляем ссылку. У каждого объекта есть идентификатор и ссылки на соседние, поэтому модель подтягивает контекст по требованию. — Спекулятивное исполнение. Помните как Apache Spark идет считать таску в параллель, чтобы ускорить среднее из-за залипшей ноды? Во внутренней группе по разработке DeepSeek Harness включено правило «молча воспроизвести и исправить»: пока люди ещё спорят о баге, агент уже открыл PR. Не подтвердил проблему - молчит, подтвердил — раскажет как пофиксить. Подход к проектированию чисто классика сисдиза. Быстрый и медленный путь обработки, кэш с вытеснением, спекулятивное исполнение, разделение компьюта и стораджа. Смотрится сильно взрослее, чем очередной агентный харнесс. Статья целиком (на английском): https://x.com/DeepSeekHarness/status/2116857257245987236 Гит: https://github.com/deepseek-ai/dsh-superagent-prototype #agents #llm #deepseek

Мы начинаем!

«Разревёрсь этот бинарь и расскажи, что он делает» - звучит как типичная кибербез задача для LLM. Осталось разобраться, в каком виде ей этот бинарник показывать.🙂 Команда CrowdStrike предлагает научить модель читать байты напрямую. Для этого авторы Large Byte Model расширяют её отдельным BPE-словарём и готовят обучающие пары, связывающие машинный код с текстовыми описаниями. В эту пятницу посмотрим, как всё это устроено: 🔵как совместить текст и машинный код в одной модели; 🔵как исходники и компиляция помогают создавать синтетические данные; 🔵что модель научилась определять и где заканчиваются доказанные возможности. И обсудим, как вообще проверять понимание бинарей, когда связный ответ LLM ещё не гарантирует понимание исходника. Ждем всех в Толке в пятницу, 30 октября, в 15:00 Ссылка для подключения: тык #reading_group #llm #bytes