Телеграм канал «Data Science»

"Large Flow Language Models"

What if we could turn existing LLMs into diffusionLMs that generate multiple tokens in parallel without losing accuracy?

📓 Read

@datascienceiot

Бесплатная книга о больших языковых моделях – 315 страниц от предобучения до рассуждений.

Foundations of Large Language Models Тун Сяо и Цзинбо Чжу системно объясняет, как устроены LLM, как их обучают и применяют.

Внутри шесть основных тем:

- Предобучение: задачи обучения и архитектуры моделей.
- Генеративные модели: Transformer, подготовка данных, масштабирование и длинный контекст.
- Промптинг: обучение на примерах в контексте, декомпозиция задач, RAG и инструменты.
- Выравнивание: обучение выполнению инструкций и использование человеческой обратной связи.
- Инференс: декодирование, ускорение и дополнительные вычисления во время генерации.
- Рассуждения: методы улучшения способности решать сложные задачи.

Авторы делают акцент на фундаментальных принципах. Материал подойдёт студентам, разработчикам и ML-инженерам, которым хочется связать отдельные знания о LLM в целостную картину.

Книга на английском. Базовые знания машинного обучения и нейросетей помогут при чтении.

Скачать PDF бесплатно:
https://arxiv.org/pdf/2501.09223

Working with Agentic `Teammates': When a New Organizational Actor Collides with the Human Ecosystem of Work

📓 Read

@datascienceiot

The Geometry of Agent Memory: Forecasting Retrieval-Bound Memory Failures, and Characterizing Its Limits

📓 Read

@datascienceiot

At the Limits of Computability: Steps Towards Autonomous AI Discovery on the Busy Beaver Frontier



📓 Read

@datascienceiot

Patch the Planet: global response coordination as agents uncover critical vulnerabilities



https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/

@datascienceiot

Зачем готовиться к собеседованию вслепую, если можно заранее посмотреть, какие будут вопросы и задачи?

Ребята из Поступашек уже 6 лет собирают реальные задания и разборы собеседований в BigTech. Там можно найти не только сами вопросы, но и разборы технических секций, критерии оценки и рекомендации по подготовке.

Собрали подборку полезных материалов под разные направления:
➡️ Аналитикам:
— Собеседования на продуктового и бизнес-аналитика в Т-Банке 🟨
— Что спрашивают по A/B-тестированию в X5 🌿 , разбор собес на DS в Яндекс 🟥

➡️ Разработчикам:
— Go и System Design в Ozon 🔵, GO в Авито😎
— Банк алгоритмических собеседований из BigTech

➡️ ML/AI-инженерам:
— Все вопросы на ML-собеседование в Яндексе 🟥 и ML в Авито 😎
— 10 кейсов по ML System Design в Т-Банке 🟨

➡️ Тем, кто ищет первую стажировку:
— Как получить стажировку в 2026 году
— Где взять опыт, если его нет

В Поступашках регулярно выходят новые разборы собеседований, карьерные гайды, стажировки и инсайды о найме в BigTech.
Лучше увидеть эти вопросы до собеседования, чем узнать о них после отказа

ПОСТУПАШКИ ПОДПИСАТЬСЯ