Tether делали анонс что AI-подразделение на этой неделе выкатит «настоящий прорыв», и вот что они выкатили
Tether представил QVAC Fabric - первый фреймворк, который позволяет обучать и запускать LLM прямо на смартфоне.
*️⃣Модели работают без серверов и GPU
*️⃣Можно дообучать AI прямо на телефоне
*️⃣Поддержка iPhone, Android и ПК
Основа - BitNet (1-бит модель)
Обычные AI-модели: используют 16-32 бита на параметр
*️⃣жрут много памяти и GPU
Здесь используется BitNet:
*️⃣ веса модели = всего -1, 0, +1 (почти 1 бит)
Ключевая часть: LoRA
➖Модель не обучается полностью
➖добавляются маленькие адаптеры и обучаются только они
Что происходит на практике
➖Загружается лёгкая модель
➖Работает GPU телефона (не сервер)
➖Применяется твой LoRA
➖Ты получаешь ответ
для Нвидия это булишь, ведь больше приложений начнет использовать ИИ хоть и используя его локально на телефоне, тоесть потребители растут, а значит и модели надо дальше обучать, нно это покажет время, в интересное время мы живем конечно...
Скорее всего придумают какой нибудь токен криптаны как был Клавбот токен, и можно будет немного заработать следим в общем за этим рынком...
Все классно и круто, и конечно жду в дальнейшем, пиратский майнинг данных с телефонов жертв
Кто пользовался Lora(и джругими локал ИИ) на Опенклав тот примерно понимает как оно все будет работать, все будет зависеть от самой модели телефона...
Источник https://huggingface.co/blog/qvac/fabric-llm-finetune-bitnet
UPD Скачиваешь на телефон, потом делаешь запрос локалке как заработать на крипте, и вот у вас есть своя микро печь для рук
🐵 ВСЕ ССЫЛКИ CRYPTO MONKEYS
🐳 СТАНЬ MONKEYS ЭЛИТОЙ
💰Обменочка | Крипто СБП