Сегодня OpenAI и Broadcom объявили о сотрудничестве, про которое ходили слухи последние года полтора. Партнёрство направлено на создание специализированных ускорителей (замену GPU) для развёртывания моделей OpenAI. Планируется поставить оборудования с суммарным потреблением энергии на 10 ГВт к концу 2029-го.
Благодаря разработке собственных чипов (а позже — полноценных систем, от электропитания до сетевого соединения), OpenAI сможет интегрировать полученный опыт создания передовых моделей и продуктов непосредственно в железо, существенно увеличивая эффективность последнего.
Обе компании работают вместе уже 18 месяцев, и, если верить новостям, за это время в OpenAI перебралось несколько топовых специалистов, разработавших TPU — специальный чип для нейросетей от Google. Его тоже делал и делает Broadcom (с 2015-го года!). Так что ребята не новички в этом деле.
Акции Broadcom на фоне новостей подскочили на 10%, что позволило стать компании 7-й в мире по капитализации и обогнать Saudi Aramco (компанию с самой большой прибылью), TSMC (делающей чипы для Nvidia), Oracle (которые строят датацентры для OpenAI).
===
А чуть больше недели назад OpenAI объявили о сотрудничестве с AMD и заключении договоренностей на поставку железа (тоже для инференса) на 6 ГВт. По ходу покупки железа OpenAI будут получать право на покупку акций AMD по копеечной цене, вплоть до 10% компании. Интерес AMD понятен — они и без того опаздывают на поезд ИИ-чипов, оставляя Nvidia в положении монополиста, и партнёрство с таким крупным игроком с получением обязательств на покупку и установку и содержание огромных объемов продукции поможет найти себя на рынке.
Вам может казаться, что карты AMD не идут ни в какое сравнение с Nvidia, и долгое время это было правдой. Но за последний год они сделали несколько прыжков, тесно работали с компаниями, и смогли выйти +- на один и тот же уровень. Их карты могут быть чуть менее производительными, однако маржа у Nvidia больше 50%. Если покупать чипы на $100B — больше 50 миллиардов долларов осядут на балансе; в то же время AMD может существенно уступить, и потому в пересчёте на доллары их карты не то что могут быть, а уже становятся выгоднее (см. тут) — но только если мы говорим об инференсе, а не тренировке, в которой Nvidia остаются королями.
Итого OpenAI ожидает датацентров на 26 ГВт энергии к 2030-му году. Это ОЧЕНЬ много — два пиковых потребления всего Нью-Йорка в жаркий летний день. Для сравнения, 2025-й год компания начинала с 0.2 ГВт мощностей, к концу 2025-го будет чуть больше 2 ГВт, и эта цифра увеличится в 13 раз в ближайшие 3.5 года. При этом все яйца разложены в разные корзины: есть и свои чипы, и договорённости с Nvidia, и с их конкурентами AMD. Даже если часть подрядов не будет выполнена / будет поставлена с задержками — можно двигаться дальше. А самое главное срезать маржу 😀 и не переплачивать.
Сами размеры ставок и договорённостей кажутся настолько гигантскими, что возникает вопрос того, успеют ли поставить оборудование в срок [и сможет ли OpenAI заплатить]. Я за последние полторы недели прочитал много аналитики, мол, не успеют, опоздают на год-полтора, ресурсов нет и так далее. Но если это и вправду так, то положение OpenAI в разы лучше конкурентов, так как они пришли первыми. Когда придут вторые-третьи, то Oracle / Broadcom / TSMC / Samsung / все остальные компании в цепочке разведут руками и скажут «Сори, мы загружены по самое не могу, вас брать просто некуда. С утра до ночи работаем на Дядю Сэма»
😏