Генерировать видео и менять происходящее текстовыми командами прямо на ходу - одна из возможностей LongLive от NVIDIA.
Сейчас репозиторий объединяет четыре исследовательских проекта:
- LongLive 1.0 - интерактивная генерация длинных видео: пользователь меняет промпты по мере появления кадров.
- LongLive 2.0 — инфраструктура обучения и генерации с квантизацией NVFP4 и распределением вычислений между GPU.
- LongLive-Plug — перенос возможностей, полученных при дистилляции базовой модели, на совместимые производные модели без повторного обучения.
- Long-WAM — модели для робототехники, которые используют визуальную историю при выборе действий. Есть обучение, тестирование и демонстрации на реальных роботах.
Для каждого направления опубликованы код, документация и веса моделей. Можно скачать только нужный проект.
Интересно, как здесь сходятся генерация видео и робототехника: модели должны учитывать предыдущие кадры и продолжать последовательность — визуальную сцену или действия робота.
Репозиторий для тех, кто исследует длинные видеопоследовательности, интерактивные миры и обучение роботов.
Нововведения Python 3.15 превратили в игру: чтобы пройти дальше, придётся писать код.
whatsnewt - терминальный квест от Барри Уорсо. Вы просыпаетесь внутри интерпретатора и проходите 15 комнат с 18 головоломками, посвящёнными возможностям Python 3.15.
По пути встретятся ленивые импорты, frozendict, sentinel, распаковка в comprehensions, изменения типизации и другие нововведения.
Ответы запускаются в настоящем Python 3.15. Для заданий на типизацию используется pyrefly. Проверяется не только результат, но и способ решения: обойти новую конструкцию привычным циклом не всегда получится.
Внутри есть карта, инвентарь, подсказки за очки, ссылки на документацию и автосохранение.
Запуск через uv:
uvx --python 3.15 whatsnewt
Любопытная деталь: по словам автора, значительная часть игры написана совместно с Claude.
Хороший повод изучить релиз на практике: каждая новая возможность становится задачей, которую нужно решить самому.
PyTorch экономит память при обучении LLM и лучше использует GPU на Mac
OpenTeams рассказала о своём вкладе в PyTorch за 2026 год. Несколько изменений, которые пригодятся на практике:
- Меньше разрывов в `torch.compile`. Dynamo перестраивают по образцу внутренних механизмов CPython, чтобы он точнее обрабатывал обычный Python-код. Это сокращает ситуации, когда компиляция прерывается и выполнение возвращается в Python.
- До 4 раз меньше пиковой памяти на расчёте loss. В PyTorch 2.13 появился LinearCrossEntropyLoss: он обрабатывает данные частями, не создавая целиком огромный тензор оценок по всему словарю. Особенно полезно при обучении языковых моделей.
- Больше операций на GPU Apple Silicon. MPS получил нативные реализации дополнительных операций. По замерам команды, native_group_norm на M4 ускорился в среднем более чем в 10 раз.
- Экспериментальная компиляция комплексных вычислений. В PyTorch 2.14 комплексные операции можно разложить на операции с вещественными тензорами и передать существующим механизмам оптимизации.
Для PyTorch 2.15 также подготовлены поддержка Python 3.15 в `torch.compile` и API отдельных MPS-потоков. Они позволят отправлять работу в несколько очередей GPU на Mac.
⚙️ Почему код тормозит, даже если алгоритм хороший?
Причина может скрываться в промахах кэша, предсказании ветвлений, расположении данных или конкуренции потоков за память.
CPU Performance Engineering собирает материалы, которые помогают разобраться в этих ограничениях. Путь идёт от выполнения одной инструкции до запуска ИИ-моделей на CPU.
Внутри:
• Микроархитектура процессоров x86 и Arm.
• Кэши, память, NUMA и false sharing.
• Профилирование, perf и flame graphs.
• SIMD, векторизация и оптимизации компилятора.
• Многопоточность и задержки под нагрузкой.
• Инференс моделей и квантизация.
В 14 разделах есть воспроизводимые бенчмарки на C: исходники, команды сборки, результаты и разбор. Можно проверить поведение на своём железе.
Подборка опирается на первоисточники: статьи, документацию и измерения. Есть и MCP-сервер для подключения материалов к ИИ-ассистенту.
Зачем готовиться к собеседованию вслепую, если можно заранее посмотреть, какие будут вопросы и задачи?
Ребята из Поступашек уже 6 лет собирают реальные задания и разборы собеседований в BigTech. Там можно найти не только сами вопросы, но и разборы технических секций, критерии оценки и рекомендации по подготовке.
Собрали подборку полезных материалов под разные направления:
➡️ Аналитикам:
— Собеседования на продуктового и бизнес-аналитика в Т-Банке 🟨
— Что спрашивают по A/B-тестированию в X5 🌿 , разбор собес на DS в Яндекс 🟥
➡️ Разработчикам:
— Go и System Design в Ozon 🔵, GO в Авито😎
— Банк алгоритмических собеседований из BigTech
➡️ ML/AI-инженерам:
— Все вопросы на ML-собеседование в Яндексе 🟥 и ML в Авито 😎
— 10 кейсов по ML System Design в Т-Банке 🟨
➡️ Тем, кто ищет первую стажировку:
— Как получить стажировку в 2026 году
— Где взять опыт, если его нет
В Поступашках регулярно выходят новые разборы собеседований, карьерные гайды, стажировки и инсайды о найме в BigTech.
Лучше увидеть эти вопросы до собеседования, чем узнать о них после отказа
HardenedVault, которая специализируется на безопасности Linux и компиляторов, выложила среду исполнения SonicBoom, написанной с нуля на C++ и CUDA. Python ей не нужен ни для работы, ни для сборки.
Цель проекта – локальный запуск языковых моделей на потребительских видеокартах.
Всё упаковано в одну библиотеку libsonicboom.so, которую можно подключить из любого языка через стандартный интерфейс C, основным языком для работы с ней авторы выбрали Scheme в реализации GNU Guile.
SonicBoom загружает модели в GGUF, генерирует текст на процессоре или видеокарте и поднимает локальный сервер, совместимый с API OpenAI.
Если новый запрос начинается с того же текста, что и предыдущий, заново обрабатывается только добавленная часть, и результат до токена совпадает с полным пересчётом.
🟡Механика
Скорость вывода дают уровни над вычислительными ядрами, а не сами ядра. Умножение квантованных матриц и токенизаторы частично перенесены из llama.cpp.
Над ними работает планировщик, который до запуска переписывает граф модели целиком, сливает соседние операции и записывает весь шаг генерации токена в один CUDA Graph, т. е. в готовую последовательность команд для видеокарты.
Ещё выше стоит компилятор на базе MLIR. Он сам генерирует часть ядер для GPU, в том числе для механизма внимания, и при первом запуске подбирает самый быстрый вариант под конкретную карту.
🟡Тесты
На RTX 3050 с 8 ГБ памяти сравнили SonicBoom и llama.cpp на одних и тех же моделях.
Gemma 4 E4B через SonicBoom дала генерацию в 53 токена в секунду против 44,8 у llama.cpp.
У Qwen2.5-0.5B вышло 344,7 токена в секунду против 307,6.
Когда контекст дорастает до 512 токенов, SonicBoom на Qwen уже чуть отстаёт.
Единственный сторонний результат на RTX 4060 Ti оказался хуже llama.cpp, 73,6 токена в секунду против 78, но его получили на сборке, ещё не настроенной под эту видеокарту.
Пока проверены только две модели, Gemma 4 E4B-it и Qwen2.5-0.5B-Instruct, и только видеокарты серии RTX 30.
Модель всегда выбирает самый вероятный токен, температуру и другие настройки случайности задать нельзя.
Следующими в планах стоят модели Llama и Mistral, работа через Vulkan, генерация ядер для видеокарт других производителей и диффузионные модели.
Дальше SonicBoom планирует вырасти в фреймворк в духе PyTorch, где модель пишут на Scheme и компилируют в граф вычислений. Прототип этого режима уже обучает небольшой трансформер.