Переключил своего OpenClaw с Luna на Terra. Чудес не ожидаю, но может и станет немного умнее.
В целом ChatGPT продолжает меня разочаровывать в рабочих задачах - что Sol, что Astra, что новая Terra - от презентаций, которые они сделали за ночь, хочется плакать.
DeepSeek не то, чтобы лучше, но и не сильно хуже. Одна надежда - на новые модели.
Видимо, сегодня-завтра выйдет Fable 5.5, что было бы логично в преддверии IPO Антропика.
И я не исключал бы, что OpenAI не дадут сделать спокойно размещение и выпустят Astra 6.1 или как они там называют свою модель, которая щелкает сложные математические задачи
К заявлениям о достижении SOTA уровня стоит относиться с осторожностью, но тема в том, что сейчас для изготовления новой модели требуется пара месяцев.
Лично я больше жду, когда в том же Qwen запустят рекурсивные веса (то есть модели будут прогонять токены по слоям не колько раз). Это должно сделать маленькие модели сильно умнее. Вроде все работает, но новых моделей почему-то пока нет..
Стартап Recursive Superintelligence, основанный Ричардом Сочером и вышедший из тени в мае с 650 млн долларов инвестиций, показал свою первую модель - Flint.
Такие деньги Recursive получил ещё до первой модели во многом из-за состава основателей. Сочер был главным научным сотрудником Salesforce и в свое время запустил поисковик You.com, оттуда же пришёл Цаймин Сюн, возглавлявший исследования ИИ.
Алексей Досовицкий из Google – автор Vision Transformer, Юаньдун Тянь занимался исследованиями в FAIR у Цукерберга, Тим Роктэшель пришёл из DeepMind и остаётся профессором Университетского колледжа Лондона, Джефф Клун стоит за работой о машине Дарвина-Гёделя про самоулучшающийся код.
Ещё двое, Джош Тобин и Тим Ши, работали в OpenAI, а Ши вдобавок сооснователь Cresta.
Модель рассчитана на агентов, которые разбирают чужой код, чинят ошибки, добавляют функции и пишут тесты. Команда собрала её с нуля меньше чем за четыре месяца.
🟡Архитектура
Flint построена на MoE, 39,8 млрд общих параметров, на каждый токен работают 2,5 млрд. Окно контекста - 262 тысячи токенов.
В каждом слое 256 экспертов, из которых выбираются шесть, плюс один работает всегда.
Большая часть слоёв внимания смотрит не на весь контекст, а на скользящее окно, что экономит вычисления.
Под Apple Silicon и NVIDIA RTX Spark стартап написал свои вычислительные ядра.
🟡 Тесты
На SWE-bench Verified модель набрала 74,2%, на Terminal-Bench 2.1 – 54,9%.
Recursive называет Flint лучшей моделью со смесью экспертов среди тех, что меньше 50 млрд параметров, и утверждает, что та догоняет плотные модели на 25–40 млрд, работая впятеро быстрее.
На коротком контексте Flint выдаёт больше 125 токенов в секунду на MacBook с M4 Pro и больше 150 на NVIDIA RTX Spark с 64 ГБ памяти.
Flint работает в llama.cpp, Ollama, LM Studio, vLLM и SGLang, а для ноутбуков на M4 Pro и M5 Pro или Max есть собственный движок rec.