Недавно компания Nvidia объявила о начале полноценного производства своей платформы Rubin для дата-центров искусственного интеллекта, заверив партнёров, что запуск состоится в этом году, опередив конкурентов, таких как AMD. Однако, помимо возможного ускорения сроков выпуска, Nvidia, по сообщениям, также пересматривает спецификации графического процессора Rubin, чтобы обеспечить более высокую производительность: по данным инсайдеров, тепловой пакет (TDP) может быть увеличен до 2,30 кВт на GPU и пропускная способность памяти достигнет 22,2 ТБ/с.
Мощность GPU Rubin зафиксирована на отметке 2,3 кВт, что выше первоначально заявленных Nvidia 1,8 кВт, но ниже ожидаемых некоторыми аналитиками рынка 2,5 кВт, согласно данным Keybanc (через @Jukan05). Намерение увеличить лимит мощности с 1,8 кВт продиктовано желанием обеспечить, чтобы платформы на базе Rubin в этом году значительно превзошли по производительности ускорители AMD Instinct MI455X, расчётная мощность которых составляет около 1,7 кВт. Информация об увеличении бюджета мощности для Rubin исходит из неофициального источника, но косвенно подтверждается SemiAnalysis, утверждающей, что Nvidia повысила скорость передачи данных в стеках HBM4, благодаря чему каждый GPU Rubin теперь может похвастаться пропускной способностью памяти 22,2 ТБ/с вместо 13 ТБ/с. Мы обратились к Nvidia с просьбой подтвердить эти данные.
Дополнительный запас мощности примерно в 500 Вт даёт Nvidia множество возможностей для повышения реальной производительности, а не только заявленных на бумаге характеристик. В самом прямом смысле это позволит поддерживать более высокие тактовые частоты при непрерывных нагрузках обучения и инференса, а также уменьшит троттлинг, когда ускоритель ИИ работает на пределе. Эта дополнительная мощность также облегчит одновременную активацию большего числа вычислительных блоков, что увеличивает пропускную способность при тяжёлых рабочих нагрузках, когда задействованы вычисления, память и межсоединения.
Помимо потоковых процессоров (или, точнее, тензорных ядер), дополнительный бюджет мощности может быть использован для запуска памяти HBM4 и PHY на более высоких частотах, что увеличит пропускную способность памяти. Фактически, более высокий бюджет мощности также позволит Nvidia улучшить производительность всех соединений (включая память, внутренние интерконнекты и NVLink) до более агрессивных рабочих точек, сохраняя при этом приемлемые запасы по сигналу, что становится всё более важным, поскольку современные системы ИИ начинают упираться в пропускную способность памяти и производительность фабрики.
На уровне системы дополнительные 500 Вт TDP для ускорителей ИИ означают повышение производительности на узел и на стойку. Гиперскейлеры ценят более высокую производительность на уровне системы больше, чем производительность на отдельный GPU, поскольку для выполнения той же задачи может потребоваться меньше GPU, что снижает нагрузку на сеть и повышает эффективность кластера. Это, разумеется, при условии, что гиперскейлеры смогут обеспечить машины со значительно более высоким энергопотреблением.
Наконец, более высокий TDP также поможет в производстве, поскольку он обеспечивает более гибкое биннирование и запас по напряжению, что повышает полезный выход годных без необходимости сокращать количество вычислительных блоков или снижать частоты.
В результате дополнительные 500 Вт служат не только способом повышения производительности GPU Rubin и конкурентоспособности решений в стойках VR200 NVL144, но и выступают в качестве запаса надёжности, гарантируя, что GPU сможет обеспечивать предсказуемую, стабильную пропускную способность в крупномасштабных развёртываниях дата-центров, а не просто демонстрировать более высокие пиковые показатели на бумаге. В качестве бонуса Nvidia потенциально сможет поставить на рынок больше GPU Rubin, что выгодно для её прибыли.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Anton Shilov
