Аналитика Telegram-канала
Подписчики
87
Публикаций
10

Динамика подписчиков

7 дней 30 дней 6 месяцев Больше
16 ноя19 ноя22 ноя
Показаны последние 7 дней Больше истории →

Охваты публикаций

03.1103.1103.1111.11
11
Средний охват
19
Лучший результат
Показаны 4 публикации — последние в канале Больше статистики →

Упоминания

6
Упоминаний
3
Из них репостов
2
Каналов
Нет примеров за последние 90 дней
Все упоминания

Последние посты

3 из 10 2 из 10
Спи, ИИ! Снятся ли андроидам электроовцы?… (Филип К. Дик) Уже несколько раз упоминал ближайшие нерешенные проблемы LLM - отстающая от человеческой обобщающая способность, непрерывное обучение без катастрофического забывания и отсутствие долговременной памяти с гибким доступом. Всё больше команд лечат их все три разом: отправляют модели спать. Рецепт на оздоровительный сон выписан ещё в 1995 году, теорией комплементарных систем обучения (CLS, complementary learning systems; McClelland, McNaughton, O’Reilly). В соответствии с ней, быстрый гиппокамп запоминает дневные эпизоды, а во сне через механизм replay (воспроизведения) из них извлекается обобщенная структура и медленно объединяется с содержимым неокортекса. В фазе медленного сна (сон без сновидений, NREM) дневной опыт консолидируется: помеченные за день как значимые фрагменты сжимаются, обобщаются и объединяются с долговременной памятью. А в фазе быстрого сна (сон со сновидениями, REM) из этих же значимых фрагментов и недорешенных задач генерируются гипотезы и стратегии поведения. Часть из них проверяется и отбраковывается сразу здесь же, во внутренней “world model” (world model только при изложении отделима от всего остального). А та часть, которая выглядит перспективно, сохраняется и затем реализуется в дневной деятельности, проходя проверку уже на опыте. Всё вместе это также очень хорошая метафора цикла RSI (recursive self-improvement). Не первую, но одну из ранних попыток реализовать это в ML предпринял еще Хинтон, в том же 1995 году, с его wake-sleep algorithm. Кто как спит Letta и UC Berkeley с sleep-time compute: в простое модель заранее переосмысливает контекст и потом отвечает с примерно впятеро меньшим test-time-бюджетом. Уже работает в проде. Anthropic с dreaming: между сессиями агент сверяет заметки с транскриптами, чинит ложные воспоминания и строит вики. У Opus 5.5 на CL-Bench (бенчмарк непрерывного обучения) награда растёт с 0,655 до 0,838. Статус разных компонентов — от research preview до public beta. Google Sleep: контекст дистиллируется в расширяемую сеть, а на “REM-фазе” модель через RL (reinforcement learning) сочиняет себе синтетический учебный план. Забывание при последовательном обучении новым языкам почти нулевое. Пока это прототип на моделях до 8 млрд параметров, и пока без ярких метрик. Dreamer от DeepMind: агент учит модель мира и тренирует стратегии на воображаемых траекториях. Dreamer 4 добыл алмазы в Minecraft исключительно на офлайн-данных. DreamCoder: днём решает задачи синтезом программ, во сне сжимает решения в библиотеку и тренируется на фантазиях из неё. Библиотека растёт, каждый следующий цикл даётся легче. Главная развилка — субстрат памяти • Веса плотны и хорошо обобщают, но непрозрачны и не переживают смену модели. • Текст можно читать, править и переносить на следующую модель, но есть подозрения, что это не самая эффективная модель вычислений, обобщения и памяти. Также при превращении в рабочую память он ограничен окном контекста. • Собственный код и библиотеки, в чём-то близко к идее синтеза программ. Код компактен, композиционен, проверяем, переносим. Sleep-time scaling В дополнение к train-time scaling и test-time scaling звучат идеи третьей оси масштабирования, sleep-time scaling: сколько модель потратит вычислений на рефлексию, собственную оптимизацию и генерацию стратегий, когда она не используется. Или даже параллельно с основной работой: моделям ничто не мешает спать как дельфинам, каждым полушарием по очереди, без отрыва от производства.
ещё
4 0 1 11 ноя, 14:35
Третий человек, который удивляет, это Ян Лекун. Когда вся индустрия скейлит как не в себя, он упорно разрабатывает свою next gen программу. Она, к сожалению, кажется не настолько выразительной, как первые две. Основная его ставка - что нам нужны роботы, чувственное восприятие, embodied интеллект и world models. Красивая идея EBM, позволяющая более сложную модель вычислений с релаксацией ограничений + ризонинг в латентом пространстве в общем примерно воспроизводится и на трансформерах (looped transformers, in-weights reasoning, CoT reasoning). Но всё же, у него может получиться какой-нибудь более оптимальный компонент, который, может быть, встроится в мейнстримную парадигму, или запустит отдельную ветку, или выстрелит на термодинамических чипах, и это интересно. Компания Яна после ухода из FAIR - AMI Labs. Ян, ты получаешь поощрительный приз и круассан! Конечно, много кто еще в этом участвовал, они действовали не в одиночку, к тому же у них были сильные научные руководители (Хинтон и Саттон). Но они на протяжении многих лет сохранили живую визионерскую силу, трезвость ума и упорство. Увожение. Такие дела. А вы о чем думаете?
ещё
19 0 3 3 ноя, 20:42
Накоплено множество свидетельств того, что внутри “стохастических попугаев” происходят действительно удивительные вещи: кроссязыковые семантические представления, реализуются многошаговые алгоритмы и рассуждения, сложные абстрактные признаки и их комбинирование, фрагменты модели мира, универсальные репрезентации, переносимые между разными моделями и мозгами, вектора навыков, персон и ролей, модели пользователя и его ожиданий, вектора целей, эмоций, рабочая память, способность к рефлексии собственных содержаний. Mechanistic interpretability полагаю одним из самых интересных разделов всей отрасли. Попробовать силы в анатомировании моделей можно здесь: Neuronpedia. Также, обнаружены параллели с большим количеством структур в мозге - гиппокамп с его пространственными мэппингами, кора с ее гибкими вычислениями в абстрактных пространствах (здесь скорее математические, структурные эквиваленты) и др. Также обнаружилось, что заваривая правильные данные, модели можно учить систематическому обобщению, каузальному выводу, сохранению устойчивой позиции и цели, рефлексии, объяснению собственных действий. При этом более поздние и абстрактные навыки требуют всё меньше примеров. А динамика формирования категорий в моделях повторяет известную в лингвистике. Заварка данных - отдельный вид искусства. Харнесы представляют собой отдельный вид обучающего сигнала, и при обучении на сгенерированных в них трейсах их функции интериоризируются обратно в модели. Надобность во внешних подпорках в новых моделях отпадает. Таким образом, офишиали, scaling hypothesis вообще никак не опровергнута до сих пор, она всё так же актуальна. И всё это реализуется очень простым набором архитектурных идей, который значительно улучшить - очень непросто, настолько он оптимальный. Из остающихся, наиболее интересных, фундаментальных барьеров назову два: 👉 1) по какой-то причине обобщающая способность всё ещё отстает от человеческой, но уже есть споры - насколько 👉 2) непрерывное обучение, то есть единый цикл тренировки и вывода. И, возможно, 1 и 2 связаны, так как оба затрагивают механизмы консолидации памяти. Вот, например, Google учит LLM спать, пытаясь решить вторую задачу, и показывает улучшение метрик обобщения. Интересно, что Суцкевер был зачинателем или участником практически каждого фундаментального архитекурного достижения, от генеративного языкового моделирования в 2011 и AlexNet в 2012, который впервые показал, что ставка на скейлинг - играет, до seq2seq моделей в 2014 (encoder-decoder, стимулирующий сжатие информации, в соответствии с принципом MDL), многолетней программы предсказание следующего токена (исключает необходимость разметки) + скейлинг, которая привела к появлению современных моделей и вплоть до ризонинга в проектах Q* и Strawberry от OpenAI. Суцкевер в 2024 основал свою компанию, SSI Inc. И уже два года в полном стелс (невидимом) режиме решает как вы думаете, что? По слухам, именно эти две фундаментальные проблемы. Я болею за Илью. Есть второй волшебный персонаж, благодаря которому существует RL в современном виде, и это не Саттон. Зовут его David Silver. Он был PhD у Саттона, в 2013 присоеднился к DeepMind, • в 2015 он добился скрещивания RL и DL, создав DQN, которые впервые смогли играть в игры Atari прямо с экрана; • затем AlphaGo, победившая чемпиона мира в Го (RL + поиск по дереву); • AlphaGo Zero (убираем человеческие данные, модель учится через self play); • AlphaZero (теперь еще и сама игра не важна, может шахматы, сёги и го); • AlphaStar (применяем к большой, частично наблюдаемой среде с огромным пространством действий - StarCraft); • MuZero (теперь еще и правила игры не нужны, она сама их выявляет. “Назад в будущее” помните? “Кому нужны эти дороги.”); • AlphaProof (одна из первых систем доказательства математических теорем). В 2025 он основал Ineffable Intelligence, его цель - обучение с нуля до сверхинтеллекта на опыте, без обучающих данных, подготовленных людьми. Я не знаю, как это должно работать, но боже, Дэвид, мы держим за тебя пальцы!
ещё
19 0 1 2 3 ноя, 20:42
Больше постов

Продолжить анализ этого канала

  • История роста подписчиков
  • Просмотры и охваты публикаций
  • Кто упоминает канал и кого упоминает он
  • Похожие каналы и подбор для рекламы
Открыть аналитику
Демо до 14 дней