Ну и о локальных моделях для кодинга Чисто мои мысли + ресерч, велкам в комменты рассказать если где-то ошибаюсь. Запуск выше связки из 5 Qwen3.8-27B (которая круче Фейбла) был в облаке, а не локально the 50 runs cost $35.79 (15.3M output tokens), $38.77 with the 16 attempts that were cut by a clock, stopped for a fix or paused. Приемлимые результаты для Qwen3.8-27B в 8 бит дома начинаются с двух 3090: 2× RTX 3090, 48 ГБ суммарно — $2 500–3 200 за пару, б/у; 30–45 токенов/с, Q8 без MTP. RTX 4090, 48 ГБ (пердоленная китайцами) — $3 750–4 100; ~43 токена/с, FP8 + MTP. Mac Studio M5 Max, 64 ГБ — ~$3 800; ориентир ~36 токенов/с, 8 бит + MTP; замер на версии 128 ГБ. Mac Studio M3 Ultra, 96 ГБ — $3 900–4 900, б/у; ~56 токенов/с, 8 бит + DFlash 2. AMD MI210, 64 ГБ — $3 900, восстановленная; ~79 токенов/с, Q8 с drafter-моделью на оптимизированной сборке. RTX A6000 Ampere, 48 ГБ — $4 000–4 800, б/у; ~60 токенов/с с MTP, 47 на контексте 134K на изменённой FP8-версии модели. Т.е, при желании, за $4k-$5k можно запустить модель которая вполне будет писать код. Огромный минус будет в том что этот сетап будет работать в один поток. А подписка сейчас дает больше - параллельность, более умные модели. Оставляем как план B, если все провайдеры сломаются 🙃 Словарик - FP8 — 8-битный формат весов модели: занимает меньше памяти, чем 16-битный, с возможной небольшой потерей качества. - MTP — ускорение генерации: модель предлагает несколько токенов вперёд и проверяет их вместе. PS Для видях еще же и комп нужен же. Думаю плюсом $1500-$2000. И электричество по прикидкам $20-$30 в месяц при 8 часах /// @syabro_notes

Memdoor | https://memdoor.ai/ Новый харнесс, который выглядит как claude-workflow на максималках Greg Devo (автор) взял свой memdoor + метод GVS5H и (по его словам) взял связку из 5 Qwen3.8-27B FP8 и обошел Fable 5 в LiveCodeBench Hard list. Хочется написать про "приговаривая ухбля" но буду повторяться Мне лично зашло то что тут не чат с воркфлоу а наоборот воркфлоу с чатом. Новые подходы это заебись. Ну и по пунктам. Один бинарник на Go. Workflow описывается через yaml граф: независимые шаги идут параллельно, есть шаг одобрения юзером, упавший прогон продолжается с упавшего шага; Маленькая модель перед основной ради экономии токенов. Отсекает лишнее в выдаче поиска, при чтении файлов и логов, оставляет только нужные инструменты и останавливает ход, который перестал продвигаться. Их замер на 22 парах прогонов, на вопросе по коду входных токенов на 74% меньше, на написании кода 0, но и не стало хуже CI это first-class citizen с готовым GitHub Actions Можно запустить из терминала, скрипта, CI, cron, редактора (через ACP) или с телефона, а продолжить из любого другого места. Прогон, начатый в CI, открывается через memdoor resume <id>. Работа на удалённой машине без подготовки. memdoor --gateway ssh://you@box сам ставится на сервер и запускает там шлюз. Прогон продолжается, даже если закрыть ноутбук. Headless-режим с честным кодом выхода. memdoor run "...": 0 — проверки прошли, 2 — результат не проверен или проверка упала, 3 — агент задал вопрос, а ответить некому. Девять встроенных процессов: разбор PR, ревью PR, ревью безопасности, написание тестов, описание PR, разбор упавшего CI, разметка issue, починка тестов, release notes. Остальное по мелочи: ссылка на диалог только для чтения, трансляция терминала, граф текущего хода (что прочитано, что изменено, какая проверка упала), панель файлов, MCP. Ну и минус - проекту всего месяц. Хер знает что там по секурности. /// @syabro_notes