🔥 Полный гайд по локальному запуску DeepSeek на русском: от домашнего ПК до сервера с 8 GPU
В открытом доступе появился репозиторий с руководством из 18 частей о том, как запустить DeepSeek V4, R1 и дистилляты у себя, без облака и интернета. Бесплатно, приватно и офлайн.
Внутри весь путь: выбор модели и расчёт железа, установка и настройка Ollama, llama.cpp, LM Studio, Open WebUI, vLLM и SGLang, работа через API и Python, подключение к IDE. Дальше промптинг, ускорение, RAG, агенты и fine-tuning, а в конце топ-30 приёмов, разбор ошибок, FAQ и готовые конфиги.
Для домашнего ПК основной вариант это R1-дистилляты от 1.5B до 70B. Запуск одной командой: ollama run deepseek-r1:8b. По таблицам гайда в кванте Q4 модель на 8B занимает 5-6 ГБ памяти, на 14B около 9-10 ГБ, на 32B около 20 ГБ, на 70B около 43 ГБ.
Старшие модели уже про серверное железо. DeepSeek-V4-Flash на 284B параметров, из них 13B активных, с контекстом 1M требует около 103 ГБ в 3-битном кванте. DeepSeek-V4-Pro на 1.6T параметров с 49B активными нужны 800 ГБ и больше, то есть сервер с 8 GPU.
Несколько практичных советов из гайда. Для русского языка брать модели от 14B, на меньших дистиллятах качество заметно проседает. Квант Q4_K_M считается стандартным выбором, а большая модель в низком кванте обычно лучше маленькой в высоком. Температура около 0.6 для R1 и 1.0 для V4. Проверять через ollama ps, что модель целиком на GPU. И не открывать порт Ollama 11434 в интернет: у API нет пароля.
«You are not expected to understand this»: что на самом деле значил самый знаменитый комментарий Unix
Описание:
В ядре Unix V6 (1975) перед переключением процессов стоит комментарий, который стал мемом. Деннис Ритчи объяснял, что это шутка в духе «на экзамене такого не будет», а авторы и сами не до конца понимали механизм. Разбираем, что делали savu и aretu, почему схема работала на PDP-11 и ломалась на Interdata и как Ритчи со Стивом Джонсоном переписали её целиком.
В Telegram распространяются предупреждения о ссылках, которые якобы могут привести к заморозке аккаунта.
По этим сообщениям, после перехода по ссылке с аккаунта автоматически отправляется сообщение, из-за которого профиль может попасть под ограничения. Подтверждения этой схемы пока нет.
Если такую ссылку прислали вам в личку или опубликовали в чате — не открывайте её ради проверки, даже если обещают показать «тот самый баг».
Предупредите друзей: любопытство- плохая причина рисковать аккаунтом.
Когда пропадает мобильная связь, телефоны могут стать сетью друг для друга. На этом построен Bitchat.
На фоне протестов и крупного сбоя Orange приложение Джека Дорси поднялось на первое место в категории «Социальные сети» французского App Store.
Мессенджер соединяет находящиеся рядом устройства по Bluetooth. Они могут ретранслировать сообщения, увеличивая дальность связи. Для локальной переписки не нужны интернет, аккаунт или номер телефона.
Но доставка зависит от доступных устройств поблизости: без цепочки участников сообщение через весь город не пройдёт.
Есть и возможность передавать Cashu-токены — цифровые обязательства эмитента, обеспеченные биткоином. Подготовленный заранее токен можно отправить по Bluetooth без интернета, а погасить после восстановления связи.
Это не транзакция в блокчейне Bitcoin. Пока получатель не подключился к эмитенту и не обменял токен, остаётся риск, что его уже потратили. Также требуется доверие к самому эмитенту.
Офлайн-мессенджеры показывают, что связь не обязательно должна начинаться с вышки оператора. Иногда достаточно соседнего телефона с тем же приложением.