Nvidia разбогатела на буме ИИ, но у компании есть проблема. Она сталкивается с растущим числом препятствий, которые, если их не устранить, могут лопнуть пузырь.
Таким образом, торговец оружием ИИ был вынужден играть в игру Whac-a-Mole, укрепляя основы своей империи, вкладывая свою добычу в то, чтобы клиенты не перестали покупать.
Последний пример этого — в пятницу, когда Nvidia объявила, что стала миноритарным инвестором в Cloverleaf.
Основанная в 2024 году, Cloverleaf специализируется на закладке буквальных основ — то есть земли и электроэнергии, — необходимых для строительства дата-центров («бит-барнов»), чтобы их могли арендовать облачные провайдеры и разработчики моделей, которые фактически оплачивают счета за оборудование Nvidia.
Nvidia может продать столько GPU, сколько есть дата-центров для их размещения, а эти дата-центры можно развернуть только там, где есть достаточное энергоснабжение. А поскольку новейшее поколение GPU нельзя просто установить в любой старый дата-центр, Nvidia понадобится гораздо больше мощностей дата-центров, а значит, и гораздо больше электроэнергии.
Новый тип дата-центра
До 2024 года большинство систем Nvidia были с воздушным охлаждением. Суперкомпьютеры, такие как построенные Cray и Eviden, были исключением из правила. Если только вы не развертывали десятки тысяч GPU, ускорители можно было разместить практически где угодно с минимальными изменениями в помещении.
Это начало меняться с поколением Blackwell от Nvidia. По-прежнему можно было приобрести системы с воздушным охлаждением у Nvidia и ее партнеров, и компания, безусловно, продала много восьмислотовых систем HGX B200, но для развертывания ее самых мощных систем NVL72 требовалось жидкостное охлаждение, которое не каждая площадка могла обеспечить.
Центры обработки данных с жидкостным охлаждением строить сложнее, чем с воздушным. Стойки с жидкостным охлаждением, как правило, более плотные по вычислительным мощностям, а значит, более тяжелые и энергоемкие в эксплуатации. Это означает, что помимо более мощных источников бесперебойного питания (ИБП) и более мощных блоков распределения питания (PDU), теперь им требуется множество распределительных устройств охлаждающей жидкости (CDU) для перекачки хладагента — примерно один на каждые один-три мегаватта вычислительной мощности. Дата-центры должны быть спроектированы так, чтобы выдерживать этот дополнительный вес, и проблема будет только усугубляться по мере перехода Nvidia от стоек мощностью примерно 250 кВт к 600 кВт, начиная со следующего года.
С поколением GPU Rubin от Nvidia воздушное охлаждение может навсегда уйти в прошлое, по крайней мере, в форм-факторах HGX и NVL, которые используются в большинстве современных развертываний для обучения и вывода ИИ. Впервые Nvidia предлагает чипы только в вариантах с жидкостным охлаждением.
Таким образом, чтобы продавать свои GPU следующего поколения, Nvidia нуждается не только в достаточных мощностях у клиентов, но и в том, чтобы эти площадки предоставляли правильное сочетание электропитания и охлаждения.
Оптимизация масштабов для развертывания
Хорошо известно, что Nvidia отдает приоритет клиентам с готовыми к заполнению дата-центрами. Однако многие из крупнейших клиентов Nvidia на самом деле не владеют дата-центрами, а арендуют мощности у других. Например, Crusoe построил объект Stargate для OpenAI в Абилине, штат Техас, а Oracle управляет им. Альтман и команда просто обеспечивают спрос.
Так, Nvidia инвестировала в разработчиков моделей и партнеров по нео-облакам, помогая им получать финансирование или напрямую инвестируя в их бизнес. Инвестиции Nvidia в OpenAI, CoreWeave и Nebius — лишь несколько примеров.
Это работает до тех пор, пока доступные для аренды дата-центры имеют правильный размер и конфигурацию для оборудования. Но, как мы отмечали ранее, многие существующие объекты таковыми не являются.
Чтобы еще больше снизить трения и упростить для клиентов поиск места для развертывания своего оборудования, Nvidia представила свою платформу DSX прошлой осенью и официально запустила ее этой весной.
Если кратко, DSX — это набор чертежей, точно описывающих, сколько электроэнергии, инфраструктуры охлаждения и пространства необходимо для поддержки заданного объема вычислений. Он также предоставляет инструменты для оптимизации этих вычислений, чтобы минимизировать потери мощностей.
Проблема электропитания
Но даже проектирование по спецификации не поможет строителям дата-центров, если они не смогут получить достаточно электроэнергии.
Распространение дата-центров для ИИ начало оказывать нагрузку на пропускную способность электросетей, вынуждая многие новые центры использовать генерацию электроэнергии «за счетчиком». Например, Nebius начал использовать топливные элементы на природном газе от Bloom Energy для питания своих дата-центров, вместо того чтобы полностью полагаться на существующую инфраструктуру электросетей.
Инвестиции Nvidia в Cloverleaf — последний пример того, как поставщик GPU использует циркулярную экономику ИИ в своих интересах. Условия сделки не раскрыты, но преимущества очевидны: Cloverleaf получает приток денежных средств, а Nvidia — больший контроль над процессом строительства.
В рамках сделки Cloverleaf также внедряет спецификацию DSX от Nvidia. Теоретически это должно позволить строителям дата-центров разместить соответствующий спецификации DSX дата-центр на площадке, предоставленной Cloverleaf, и без задержек начать обслуживание клиентов.
Для Cloverleaf спецификация Nvidia включает множество функций, связанных с электропитанием, в том числе DSX Flex, которая позволяет дата-центрам масштабировать свои рабочие нагрузки в зависимости от условий в сети. Так, если потребление сети резко возрастает во время жары, потому что все включили кондиционеры, дата-центры знают, что, вероятно, не стоит запускать очередной тренировочный процесс. Технология также может использоваться для перераспределения нагрузки на собственные генераторы или системы хранения энергии, например аккумуляторы, — все то, что может заинтересовать компанию, задачей которой является обеспечение электроэнергией площадок для дата-центров.
Эта сделка — последний пример того, как Nvidia использует свои денежные резервы, чтобы заткнуть дыры в экосистеме ИИ, прежде чем они станут проблемой. Несколько недель назад мы писали о том, как компания помогала стартапам в области ИИ-инфраструктуры получить финансирование в обмен на долю доходов, но теперь ясно, что Nvidia атакует потенциальные препятствия со всех сторон. ®
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Tobias Mann
