Про ML на графах

Ссылки на материалы из доклада Вадима @Eighonet.

Пара обзоров:
▫️ M. Galkin, H. Ren, Zh. Zhu - Graph ML in 2023: The State of Affairs, 2023 (30 минут);
▫️ M. Galkin et al. - Graph & Geometric ML in 2024: Where We Are and What’s Next: Part I - Theory & Architectures, Part II - Applications, 2024 (1 час 30 минут).

Приложения
Рекомендательные системы:
▫️ A. Jain, I. Liu, A. Sarda, P. Molino - Food Discovery with Uber Eats: Using Graph Learning to Power Recommendations, 2019 (15 минут);
▫️ R. Ying et al. - Graph Convolutional Neural Networks for Web-Scale Recommender Systems, 2018 (40 минут).

Предсказание дорожного трафика:
▫️ V. Mashurov, V. Chopuryan, V. Porvatov, A. Ivanov, N. Semenova - Gct-TTE: graph convolutional transformer for travel time estimation, 2024 (25 минут);
▫️ Yu. Fang et al. - Spatio-Temporal meets Wavelet: Disentangled Traffic Flow Forecasting via Efficient Spectral Graph Attention Network, 2022 (30 минут).

Drug discovery & protein design:
▫️ J.M. Stokes et al. - A Deep Learning Approach to Antibiotic Discovery, 2020 (45 минут);
▫️ J.L. Watson et al. - De novo design of protein structure and function with RFdiffusion, 2023 (45 минут).

Методы:
▫️ node2vec: A. Grover, J. Leskovec - node2vec: Scalable Feature Learning for Networks, 2016 (45 минут);
▫️ metapath2vec: Y. Dong, N.V. Chawla, A. Swami - metapath2vec: Scalable Representation Learning for Heterogeneous Networks, 2017 (40 минут);
▫️ GCN: Th.N. Kipf, M. Welling - Semi-Supervised Classification with Graph Convolutional Networks, 2017 (25 минут);
▫️ GraphSAGE: W.L. Hamilton, R. Ying, J. Leskovec - Inductive Representation Learning on Large Graphs, 2017 (30 минут);
▫️ GAT: P. Veličković et al. - Graph Attention Networks, 2018 (25 минут);
▫️ HAN: X. Wang et al. - Heterogeneous Graph Attention Network, 2019 (40 минут);
▫️ Deep Graph InfoMax: P. Veličković et al. - Deep Graph Infomax, 2018 (25 минут);
▫️ Graphormer: Ch. Ying et al. - Do Transformers Really Perform Bad for Graph Representation? 2021 (25 минут).

Фреймворки:
▫️ DGL (Deep Graph Library);
▫️ PyG (PyTorch Geometric);
▫️ NetworkX;
▫️ Pyvis для интерактивной визуализации.

Семинар про оптимизацию на нейросетях

▫️ 17 апреля (среда), 17:00 МСК
▫️ Подключение→

Выступают:
▫️ Михаил Малышков, Магнит
▫️ Максим Гончаров, Data Sapience Kolmogorov AI
▫️ Михаил Куляскин, GlowByte Advanced Analytics

Тема: Применение нейросетевого подхода для ценовой оптимизации, кейс сети Магнит

Аннотация
На семинаре мы расскажем о:
▫️ Целях и задачах проекта;
▫️ Постановке задачи оптимизации регулярного ценообразования для максимизации ожидаемой прибыли;
▫️ Использовании подхода, когда та же нейросеть, прогнозирующая объём продаж, используется и для оптимизации маржи;
▫️ Методах учёта ограничений в суррогатной задаче безусловной оптимизации (штрафные методы, модифицированный метод Лагранжа, метод точных штрафов).
▫️ Также продемонстрируем все рассматриваемые варианты реализации алгоритма на простом синтетическом примере.
▫️ И разберём сложности, с которыми мы столкнулись при реализации проекта.

Запись семинара

▫️ Вадим Порватов - Введение в глубокое обучение на графах (1 час 20 минут).
▫️ Презентация в базе знаний→

Семинар про глубокое обучение на графах

▫️ 10 апреля (среда), 17:00 МСК
▫️ Подключение→

Выступает: Вадим Порватов, старший аналитик, GlowByte Advanced Analytics

Тема: Введение в глубокое обучение на графах

Аннотация:
Вводный семинар о месте графов в глубоком обучении — поговорим о том, в каких областях графы встречаются, а также об эволюции методов их обработки. Среди прочего, коснёмся не только наиболее популярных архитектур (GCN, GraphSAGE, GAT), но и их расширения на гетерогенные графы (metapath2vec, HAN), а также альтернативных message passing моделям подходов (Graphormer).

Запись семинара

Запись доклада, который был в прошлую среду, уже пару дней как опубликована:
▫️ Tina Naro, Nathan Mogilchenko - ClearML: Introduction & Demo (1 час 45 минут).

Сори, иногда забываю написать сразу в канал.

Seminar on ClearML

▫️ Wednesday, April 3, 17:00 MSK (GMT+3)
▫️ Google Meet→
▫️ The talk and discussion will be in English

Speakers:
▫️ Tina Naro, Senior Director of Product Marketing, ClearML
▫️ Nathan Mogilchenko, Sales Engineer, ClearML

Topic: ClearML: Introduction & Demo

Abstract:
During this session, ClearML will introduce the community to our end-to-end, open source platform for AI/ML development. We will provide an overview of the company and an in-depth demo of the platform, highlighting its ease of use. This will be followed by an open Q&A.

Мероприятия NoML в апреле

План семинаров на ближайший месяц, все доклады по средам в 17:00 МСК, сохраняйте релевантные темы в свои календари:

▫️ 03.04 | Tina Naro (ClearML), Nathan Mogilchenko (ClearML) - ClearML: Introduction & Demo;

▫️ 10.04 | Вадим Порватов (GlowByte AA) - Введение в глубокое обучение на графах;

▫️ 17.04 | Михаил Малышков (Магнит), Максим Гончаров (Kolmogorov AI), Михаил Куляскин (GlowByte AA) - Применение нейросетевого подхода для ценовой оптимизации, кейс сети Магнит;

▫️ 24.04 | Михаил Зайцев (Kolmogorov AI), Григорий Шутов (GlowByte AA) - Платформа для DS/ML Kolmogorov: архитектура и демо;

Ссылка для подключения пока та же: Google Meet→, но на всякий случай следите за обновлениями в наших канале @noml_digest и чате @noml_community, там же публикуются более детальные анонсы предстоящих докладов.

Запись семинара

▫️ Денис Афанасьев - Федеративное обучение: обзор методов, платформ и трендов 2024 (1 час 20 минут).
▫️ Презентация в базе знаний→

Семинар про федеративное обучение

▫️ 27 марта (среда), 17:00 МСК
▫️ Подключение→

Выступает: Денис Афанасьев, CrossOverMarkets, SberDevices, NeuroHealth.Care, CleverDATA

Тема: Федеративное обучение: обзор методов, платформ и трендов 2024

Аннотация
На семинаре обсудим, что произошло в области Federated Learning за последний год (академические исследования, библиотеки и фреймворки, бизнес кейсы применения, …), а также порассуждаем, что ждать от этой области в дальнейшем.

Сам доклад предполагается небольшой, надеемся на продуктивную дискуссию. Перед семинаром можно вспомнить выступление Дениса и последующее обсуждение, которые были у нас год назад:
▫️ Денис Афанасьев - Таксономия методов FL, обзор платформ, основных игроков, вызовов и трендов развития, 2023 (1 час 20 минут);

А также почитать недавнюю статью Дениса:
▫️ @denisafanasev/federated-learning-overview-the-magic-behind-keeping-your-data-safe-452bbb88c9ce" target="_blank">Federated Learning Overview: the Magic Behind Keeping Your Data Safe, 2024 (40 минут).

Запись семинара

▫️ Наталия Медведева, Дмитрий Забавин - Стратегическая персонализация категорий и ставок начисления кэшбека при ограниченном бонусном бюджете (1 час 30 минут).
▫️ Презентация в базе знаний→

Семинар про DS/ML в задачах лояльности

▫️ 20 марта (среда), 17:00 МСК
▫️ Подключение→
(есть определённые риски со ссылкой для подключения, следите за обновлениями в нашем чате @noml_community)

Выступают:
▫️ Наталия Медведева, Head of Loyalty, Банк «Открытие»
▫️ Дмитрий Забавин, Архитектор решений Data Science, GlowByte Advanced Analytics

Тема: Стратегическая персонализация категорий и ставок начисления кэшбека при ограниченном бонусном бюджете

Аннотация
На семинаре поговорим про имитационное моделирование клиентского поведения и имитационную оценка бонусного бюджета. Обсудим, как эти подходы позволяют ответить на следующие вопросы:
▫️ Какие факторы влияют на удовлетворенность клиента?
▫️ В каких случаях высокая ставка начисления может привести к разочарованию клиента?
▫️ Какие категории и ставки начисления кэшбека предложить клиенту, чтобы обеспечить стратегии поощрения, развития, удержания и реактивации клиентов?
▫️ Как учесть при распределении бонусного бюджета между клиентами, что не все клиенты воспользуются бонусным предложением?
▫️ Также затронем тему, как построить математические модели для такого рода задач в случаях отсутствующих или ограниченных данных.