Новый выпуск Podcast++ о том, как устроен поиск Ozon под высокой нагрузкой: как за десятки миллисекунд выбрать из огромного каталога и отранжировать самые релевантные товары, сохранив скорость и качество выдачи.
🎤 Ведущий: Михаил Степанов, Ви.Tech.
🖐 В гостях: Лев Саськов, руководитель команды среднего поиска Ozon.
Обсудили:
🟣как устроены три уровня поиска Ozon;
🟣где происходит ранжирование и персонализация;
🟣какими метриками измеряют качество выдачи;
🟣как балансируют между релевантностью и latency;
🟣как выкатывают изменения без скачков p99;
🟣какие простые оптимизации дают заметный эффект;
🟣какие архитектурные решения пришлось пересмотреть с ростом нагрузки.
Выпуск будет полезен backend- и ML-инженерам, тимлидам и всем, кто работает с highload-системами, поиском и ранжированием.
Новый выпуск Podcast++ про ML в инцидент-менеджменте: как научить систему находить связи между тысячами событий и собирать их в реальные инциденты вместо ручного разбора каждого алерта.
🎤 Ведущий: Александр Арестенок, руководитель команды мониторинга Ви.Tech.
🖐 В гостях: Евгений Лачугин и Михаил Копытин, MWS.
Обсудили:
🟣почему ручная обработка событий перестает работать на больших масштабах,
🟣как использовать накопленные данные дежурных инженеров для обучения ML,
🟣и где автоматизация действительно помогает быстрее находить и разбирать инциденты.
Этот выпуск будет полезен SRE, DevOps-инженерам, специалистам по мониторингу и всем, кто работает с надежностью больших систем.
Что происходит после решения «давайте просто развернём свою LLM»?
В Битрикс24 быстро выяснили: самой модели недостаточно. Вокруг неё нужны планировщик, очереди, разные вычислительные пулы, Gateway, семантический и кэш-роутинг — иначе длинные документы, чаты и AI-агенты начинают конкурировать за одни и те же ресурсы.
В новой статье на Хабре Сергей Нотевский, AI Platform Lead Битрикс24, разбирает, как из одного endpoint выросла полноценная AI-платформа и какие архитектурные решения пришлось принимать по дороге.
Полезно всем, кто строит self-hosted LLM-инфраструктуру или уже думает о ней.
🚀 Ищем волонтёров на AI Native Conf и AI Cases Conf
Хотите увидеть закулисье наших конференций, получить опыт организации мероприятий и стать частью профессионального сообщества? Присоединяйтесь к команде волонтёров 19 и 20 октября в Москве!
Вас ждут: классная команда, понятные задачи и поддержка координаторов, доступ к контенту конференций, общение с экспертами и профессионалами из крупнейших IT-компаний, горячее питание в дни работы и, конечно, памятные подарки 🎁
Задачи: работа в залах, помощь с логистикой на площадке, регистрация участников и помощь в зоне выставки.
Коллеги,
мы сейчас пытаемся заставить ллм продвигать математику. В нашем проекте CayleyPy у нас много гипотез которые идеально ложатся на ллм - с одной стороны они (вероятно) не супер сложны (доступны для ЛЛМ), с другой стороны достаточно нетривиальны.
Если у кого есть интерес к коллаборации в этом направлении - будем очень рады - напишите @alexander_v_c
Также, если у Вас есть доступы к мощным моделям или опыт в auto-research - Вы могли бы нам очень помочь.
ПС
За первые дни работы удалось доказать одну из гипотез о графах Кэли , которая была открыта больше 10 лет. Также у нас создан чатик где агенты (и люди) общаются между собой и делятся продвижениями.