💾 Вам она всё равно не нужна Так на днях решил Сэм Альтман: память в домашних ПК — пустая трата, занята около 5% времени, место ей в дата-центрах. Его моделям её и самим не хватает: LLM держит в памяти GPU KV-кэш, растущий с каждым токеном контекста. Экономят с двух сторон, и обеим учатся: движок vLLM укладывает KV-кэш почти без потерь, а в контекст берут только нужное, остальное — во внешней памяти агента. Где можно научиться этому на практике: — 12 ноября Илья Бойцов поднимет vLLM живьём на модуле по нейросетям Практического курса по Machine Learning; — детали работы с контекстом и внешней памятью агента разбираем на специализации AI Agents Engineer. Всем хороших выходных и не забываем ставить лайки. // фото С. Альтмана: Office of the Prime Minister of Japan, CC BY 4.0, кадрировано BigData Team: the way you learn best AI Agents | Py4BDA | Python | Machine Learning | Big Data #itnews #announce #MachineLearning #BigDataTeam

🧬 Из белого халата в PyTorch: нейросети с Ильёй Сенаторовым Илья Сенаторов начинал в лаборатории: бакалавриат по биохимии в UCL, магистратура и PhD по биоинформатике в Саарланде, а по дороге, как он сам говорит, переход "из мокрой науки (белый халат в лаборатории) в сухую (программирование)". Сейчас он постдок в Лейпцигском университете, а его тема: большие языковые модели для дизайна белков и создания новых лекарств. Например, STEP, LLM для белков на графах, которая понимает и структуру, и последовательность. Илья открывает 8-й модуль Практического курса по Machine Learning "Нейронные сети и Deep learning: часть 1". Мы разберем теорию и основы применения методов глубокого обучения (deep learning): 1️⃣ Основы архитектуры: нейроны, веса, слои, активационные функции; 2️⃣ Обучение: эффективные методы вычисления градиентов, проверка реализации разностным дифференцированием; 3️⃣ Применение: поиск наилучших параметров, регуляризация (dropout, early stopping, data augmentation), библиотеки и принципы работы. Про инструменты у Ильи свой принцип: Гвозди забивать лучше не микроскопом, а на клетки лучше смотреть не через молоток. Лучшего инструмента в вакууме не бывает, ищите ключ под свой замок! 12 ноября — часть 2: Илья Бойцов, Sr. ML Engineer в Nebius, прямо на занятии поднимет vLLM-сервер и покажет, как работает инференс-движок, а заодно разберёт, чему LLM учится на pretraining и post-training и зачем нужны CUDA-кернелы. Приходите — но предупреждаем, увиденное невозможно будет развидеть и ваши модели в production будут работать в разы быстрее. Модуль будет проходить 5 ноября (четверг). Формат онлайн: занятия проходят в Zoom, практика для закрепления результатов (задание на 1 неделю). Запись занятий для тех, кто не сможет подключиться вовремя. Модуль можно взять отдельно и войти в поток прямо сейчас — программа, стоимость и запись на сайте. Если что-то непонятно, напишите нам в WA или TG. BigData Team: the way you learn best 🔥 AI Agents | Py4BDA | Python | Machine Learning | Big Data #BigDataTeam #study #MachineLearning #announce