NVIDIA сегодня официально представляет свою AI-платформу Rubin, которая станет сердцем центров обработки данных нового поколения, предлагая пятикратное улучшение по сравнению с Blackwell.
NVIDIA готовится доминировать на рынках ИИ с платформой Rubin: шесть чипов, один GPU мощностью 50 PFLOPs с HBM4, CPU Vera с 88 ядрами Olympus и впечатляющие улучшения по сравнению с Blackwell, уже в серийном производстве
Сегодня NVIDIA официально анонсирует свою платформу Rubin, что стало неожиданностью, поскольку все ожидали обновления на мероприятии GTC, которое уже было анонсировано. В связи с захватывающими разработками в сегменте ИИ и разговорами об ИИ на CES, NVIDIA решила представить свою грандиозную платформу ИИ немного раньше.
Платформа Rubin от NVIDIA будет состоять из шести чипов, которые уже возвращены с фабрик и находятся в лабораториях NVIDIA для тестирования. Эти чипы включают:
- GPU Rubin (с 336 миллиардами транзисторов)
- CPU Vera (с 227 миллиардами транзисторов)
- Коммутатор NVLINK 6 для межсоединений
- CX9 & BF4 для сетевых подключений
- Spectrum-X 102.4T CPO для кремниевой фотоники
Все эти чипы вместе оживляют платформу Rubin внутри систем DGX, HGX и MGX. В основе каждого центра обработки данных лежит суперчип NVIDIA Vera Rubin, включающий два GPU Rubin, один CPU Vera и огромные объемы памяти в конфигурациях HBM4 и LPDDR5x. Основные особенности технологии NVIDIA Rubin включают:
- NVLink 6-го поколения (масштабирование до 3,6 ТБ/с)
- CPU Vera (кастомное ядро Olympus)
- GPU Rubin (50 PF NVFP4 Transformer Engine)
- Конфиденциальные вычисления 3-го поколения (первая TEE в масштабе стойки)
- RAS Engine 2-го поколения (проверка работоспособности без простоев)
Начнем с GPU Rubin: этот чип содержит два кристалла, каждый с большим количеством вычислительных и тензорных ядер. Сам чип разработан исключительно для задач с интенсивным использованием ИИ, предлагая 50 FLOPs NVFP4 Inference, 35 PFLOPs NVFP4 Training, что в 5 и 3,5 раза больше, чем у Blackwell, соответственно. Чип также оснащен памятью HBM4, обеспечивающей пропускную способность до 22 ТБ/с на чип, что в 2,8 раза больше, чем у Blackwell, и 3,6 ТБ/с пропускной способности NVLink на CPU, что в 2 раза больше, чем у Blackwell.
Для CPU Vera NVIDIA разработала свою кастомную Arm-архитектуру следующего поколения под кодовым названием Olympus, и чип содержит 88 ядер, 176 потоков (с NVIDIA Spatial Multi-Threading), когерентное межсоединение памяти NVLink-C2C 1,8 ТБ/с, 1,5 ТБ системной памяти (в 3 раза больше, чем у Grace), 1,2 ТБ/с пропускной способности памяти с SOCAMM LPDDR5X и конфиденциальные вычисления в масштабе стойки. Все это вместе обеспечивает 2-кратное увеличение производительности обработки данных, сжатия и CI/CD по сравнению с Grace.
Коммутаторы NVLink 6 предлагают сетевую структуру на платформе Rubin с 400G SerDes, пропускной способностью 3,6 ТБ/с на CPU (all-to-all), общей пропускной способностью 28,8 ТБ/с, 14,4 TFLOPS вычислений FP8 в сети и 100% жидкостным охлаждением.
Сетевые подключения обеспечиваются новейшими модулями ConnectX-9 и BlueField-4. ConnectX-9 SuperNIC предлагает пропускную способность 1,6 ТБ/с с 200G PAM4 SerDes, программируемый RDMA и ускоритель пути данных, безопасность высшего уровня и оптимизирован для ИИ в огромных масштабах. Bluefield-4 – это 800G DPU для SmartNIC и процессора хранения данных. Он объединяет 64-ядерный Grace CPU с ConnectX-9, предлагает 2-кратное увеличение сетевых возможностей по сравнению с BlueField-3, 6-кратное увеличение вычислительной мощности и 3-кратное увеличение пропускной способности памяти.
Все это объединяется в стойку NVIDIA Vera Rubin NVL72, которая предлагает впечатляющие улучшения по сравнению с Blackwell, как описано ниже:
- 5x NVFP4 Inference (3,6 EFLOPS)
- 3.5x NVFP4 Training (2,5 EFLOPS)
- 2.5x LPDDR5x Capacity (54 TB)
- 1.5x HBM4 Capacity (20,7 TB)
- 2.8x HBM4 Bandwidth (1,6 PB/s)
- 2x Scale-Up Bandwidth (260 TB/s)
NVIDIA также анонсирует свое решение Spectrum-X Ethernet Co-Packaged Optics, которое предлагает инфраструктуру коммутации с масштабированием до 102,4 Тб/с, совместно упакованную кремниевую фотонику 200G и обеспечивает 95% эффективной пропускной способности в масштабе. Система в 5 раз эффективнее, в 10 раз надежнее и обеспечивает в 5 раз более высокую скорость выполнения приложений.
Для своего Rubin SuperPOD NVIDIA также представляет платформу Inference Context Memory Storage, которая создана для логического вывода в гигамасштабе и полностью интегрирована с программными решениями NVIDIA, такими как Dynamo, NIXL & DOCA.
В заключение, NVIDIA будет использовать свою платформу Rubin в своем передовом DGX SuperPOD с 8 стойками Vera Rubin NVL72. Но это еще не все, есть также NVIDIA DGX Rubin NVL8 для основных центров обработки данных.
Благодаря всем этим усовершенствованиям NVIDIA Rubin предлагает 10-кратное снижение стоимости токена логического вывода и 4-кратное сокращение количества графических процессоров для обучения моделей MoE по сравнению с Blackwell GB200. Экосистема Rubin поддерживается широким кругом партнеров и находится в серийном производстве, а первые чипы поступят к клиентам позднее в этом году.
Всегда имейте в виду, что редакции некоторых изданий могут придерживаться предвзятых взглядов в освещении новостей.
8/6
Автор – Hassan Mujtaba
