Телеграм канал «mClouds - облачный провайдер»

🧠 Какие нейросети можно запустить на GPU с 24 ГБ памяти? А с 16ГБ ?

Для своего ИИ-помощника не всегда нужна дорогая видеокарта на 48 или 96 ГБ. Если вы работаете с документами, собираете базу знаний или запускаете чат-бота, для вашей задачи может хватить и 24 ГБ.

Мы собрали в блоге шесть моделей для такого объёма памяти и разобрали их запуск на примере NVIDIA L4:

🔹 Gemma 4 12B — для ассистентов и работы с текстом, изображениями и аудио.
🔹 Qwen3.5-9B — для кода, длинных документов и автоматизации рутинных задач.
🔹 gpt-oss-20b — для локальных помощников с возможностью настраивать глубину рассуждений.
🔹 PaddleOCR-VL-1.6 — для распознавания документов, таблиц и формул.
🔹 Qwen3.6-35B-A3B и Qwen3.8-27B — для более сложных задач с кодом, документами и RAG.

📌 Что важно учесть

Большинству моделей из подборки потребуется квантование — уменьшение точности весов, которое снижает расход памяти.
В статье рассказали, какие варианты подойдут даже для 16 ГБ
Где хватит L4 и когда стоит смотреть на GPU мощнее. Чтобы вы могли выбрать конфигурацию под свою задачу и не переплачивать за лишние ресурсы.

📖 Подборка моделей и подробности запуска — в нашем блоге

⚠️ Вышли важные обновления безопасности PHP — рекомендуем установить их как можно скорее
21 октября 2026 года команда PHP выпустила исправления двух критических уязвимостей — CVE-2026-109618 и CVE-2026-109619.

Они могут позволить выполнить код на сервере без авторизации.
Если вы ещё не видели уведомление и используете PHP для сайтов или веб-приложений, мы рекомендуем как можно скорее проверить версии и установить исправления. ИИ-инструменты могут ускорять поиск уязвимых систем и подготовку атак, поэтому рассчитывать на долгий запас времени не стоит.

📌 Кого это касается
Систем, где PHP обрабатывает веб-запросы через PHP-FPM, Apache с mod_php, CGI, FrankenPHP или LiteSpeed. Наибольший риск отмечен для Apache с mod_php.
Обновления CMS и плагинов недостаточно — исправления нужны самому PHP.

🔹 До каких версий обновиться
Исправленные версии: PHP 8.2.35, 8.3.36, 8.4.27 и 8.5.12. Установите обновление своей ветки или пакет с исправлением от поставщика ОС либо панели управления.

Для PHP 8.1 и старше уточните наличие исправлений у поставщика пакетов. Если поддержки уже нет, потребуется переход на поддерживаемую ветку.
После обновления перезапустите службы PHP и проверьте работу сайтов. Контейнеры пересоздайте из обновлённых образов.

📖 Подробности — в официальном бюллетене PHP

8–32 ГБ видеопамяти: какие ИИ-модели можно запустить у себя?

Для своего AI-помощника не обязательно нужен дорогой сервер. Некоторым открытым моделям хватает 8–12 ГБ видеопамяти, а с 24–32 ГБ выбор становится шире.

🗣 Мы рассказали на Хабре о пяти моделях и семействах для GPU с 8–32 ГБ памяти — для работы с кодом, документами и внутренними сервисами.

🔹 DeepSeek R1-Distill — тексты, код и рассуждения. Размер модели можно подобрать под доступное железо.
🔹 Qwen3.8-27B — более сложные задачи с кодом и документами. Ориентир — 24–32 ГБ с подходящим квантованием.
🔹 Gemma 4 12B-it — помощники, RAG и мультимодальные задачи. Можно рассматривать конфигурации от 16 ГБ.
🔹 gpt-oss-20b — рассуждения, программирование и инструменты. Требования зависят от GPU и формата весов.
🔹 MiMo-9B — компактный вариант для кода и агентных сценариев на 8–12 ГБ с квантованием.

💡 Мы отдельно разобрали, сколько места оставить для контекста и рабочих данных. Ведь поместить веса на видеокарту
— ещё не значит получить комфортную работу модели.

📖 Подробности, результаты тестов и ориентиры по памяти — в нашей статье на Хабре

🏆 mClouds — в ТОП-5 российских облачных провайдеров DRaaS по версии CNews

CNewsMarket опубликовал рейтинг провайдеров облачного аварийного восстановления для обеспечения непрерывности бизнеса — 2026. Мы вошли в топ-5!

Аналитики CNewsMarket оценили сервисы российских провайдеров по возможностям для обеспечения непрерывности бизнеса. В том числе учитывались характеристики резервной инфраструктуры, защиты данных и интегрированные решения информационной безопасности.

📌 Что отмечено у mClouds в рейтинге:

☁ Ручное и автоматическое аварийное переключение. Поддерживаем плановые и аварийные сценарии, а также одновременный запуск нескольких виртуальных машин.
☁ Защита резервных копий. Доступны неизменяемые копии — Immutable Backup — и изолированное хранилище для длительного хранения критичных данных.
☁ Инструменты информационной безопасности. В таблице отмечены NGFW, WAF, многофакторная аутентификация, управление уязвимостями и мониторинг с реагированием на инциденты 24/7.

Наш DRaaS работает на технологиях Veeam и Хайстекс. Мы помогаем настроить репликацию на резервную площадку и заранее проверить сценарий восстановления — чтобы в нужный момент было понятно, какие системы и в каком порядке запускать.

📖 Полный рейтинг и критерии оценки — на CNews

🏆 mClouds — в ТОП-5 российских облачных провайдеров DRaaS по версии CNews

CNewsMarket опубликовал рейтинг провайдеров облачного аварийного восстановления для обеспечения непрерывности бизнеса — 2026. Мы вошли в топ-5!

Аналитики CNewsMarket оценили сервисы российских провайдеров по возможностям для обеспечения непрерывности бизнеса. В том числе учитывались характеристики резервной инфраструктуры, защиты данных и интегрированные решения информационной безопасности.

📌 Что отмечено у mClouds в рейтинге:

☁ Ручное и автоматическое аварийное переключение. Поддерживаем плановые и аварийные сценарии, а также одновременный запуск нескольких виртуальных машин.
☁ Защита резервных копий. Доступны неизменяемые копии — Immutable Backup — и изолированное хранилище для длительного хранения критичных данных.
☁ Инструменты информационной безопасности. В таблице отмечены NGFW, WAF, многофакторная аутентификация, управление уязвимостями и мониторинг с реагированием на инциденты 24/7.

Наш DRaaS работает на технологиях Veeam и Хайстекс. Мы помогаем настроить репликацию на резервную площадку и заранее проверить сценарий восстановления — чтобы в нужный момент было понятно, какие системы и в каком порядке запускать.

📖 Полный рейтинг и критерии оценки — на CNews

Привет! В сентябре мы добавили новый GPU-тариф, обновили резервное копирование и много разбирались с ИИ на практике.

🔔Собрали главное за месяц — вдруг что-то пропустили.

🚀 Запустили тариф с двумя NVIDIA L4 в одной виртуальной машине.
Суммарно 48 ГБ видеопамяти, 16 vCPU на AMD EPYC 9555, 64 ГБ DDR5 и 300 ГБ NVMe. Вариант для тех, кому одной L4 уже мало, а мощность и стоимость L40S избыточны.
Посмотреть тарифы.

🔒 Обновили наш BaaS до Veeam 13. Закрыли важные уязвимости, добавили новые возможности защиты: анализ подозрительной активности с помощью ИИ, двойное подтверждение критичных действий и единый вход.

📚 Написали в наш блог на Хабре две статьи о серверной памяти.
Разобрали, как добавить RAM через PCIe и зачем дата-центрам память, знакомая нам по ноутбукам:
Больше RAM через PCIe: как работает CXL
LPDDR5X и SOCAMM2: «ноутбучная» память приходит в серверы

🤖 В блоге помогли разобраться с запуском своего AI-помощника. Сколько видеопамяти оставить под контекст и запросы коллег? Как подключить документы компании, чтобы искать ответы по инструкциям и регламентам? Собрали объяснения и пошаговое руководство:
Как оценить объём VRAM для LLM
Как запустить LLM с RAG на своём сервере

В руководстве также сравнили Qwen и Gemma на NVIDIA L4: посмотрели на ответы, скорость и расход памяти — с базой знаний и без неё.

🛡 И не забыли про безопасность. Показали, как настроить CrowdSec на Linux для защиты от перебора паролей SSH и подозрительных веб-запросов. Сохраняйте инструкцию.

📌 В октябре продолжим делиться обновлениями и материалами, которые можно применить в своих проектах. Полную версию сентябрьского дайджеста читайте в нашем блоге.

А что, если память будет сама обрабатывать данные?


🗣 Мы разобрали на Хабре подход Samsung: в LPDDR5X-PIM часть вычислений перенесли прямо внутрь памяти. Получается, данные можно обработать на месте и передать ускорителю уже результат.

📌 Как это работает
🔹 В каждом из 16 банков памяти есть свой вычислительный блок. Они работают параллельно.
🔹 Память берёт на себя отдельные операции — например, умножение матрицы на вектор, которое используется в нейросетях.
🔹 Меньше данных приходится передавать между памятью и ускорителем — меньше времени уходит на ожидание.

⚡️ Что получилось в тесте
На Llama 3.1 8B скорость генерации выросла с 27 до 81,3 токена в секунду — примерно втрое. При этом ИИ-ускоритель оставался тем же, а контекст составлял 320 токенов.

Конечно, это результат конкретного теста, а не обещание ускорить любую модель втрое. Готовых устройств пока нет, но за таким способом ускорить ИИ интересно следить.

📖 Как устроена PIM и где она может пригодиться — в нашей статье