Наступила эра Vera Rubin: самая быстрая в мире, а не только в NVIDIA, платформа искусственного интеллекта уже поставляется ведущим облачным провайдерам.
Coreweave и Oracle получили первые в мире системы NVIDIA Vera Rubin NVL72 для валидации, что знаменует колоссальный скачок в области агентного ИИ
NVIDIA Vera Rubin запущена в серийное производство, но ведущие облачные провайдеры ИИ уже получают первые системы для тестирования и валидации. В прошлом месяце NVIDIA также отправила свои первые процессоры Vera крупнейшим ИИ-компаниям.
Oracle и Coreweave стали одними из первых облачных провайдеров, развернувших платформу NVIDIA Vera Rubin NVL72. Эти платформы будут тесно протестированы с NVIDIA для достижения производительности ИИ следующего поколения на уровне Frontier.
Вице-президент по инфраструктуре Oracle Cloud, Махеш Тиагараджан, первым поделился фотографиями массивной стойки NVL72, оснащенной 72 графическими процессорами Rubin и 36 центральными процессорами Vera. Это компоненты аппаратного обеспечения мирового класса (GPU и CPU) для ИИ, которые призваны стать следующей крупной историей успеха NVIDIA после Grace Blackwell, продолжающей бить все рекорды в области ИИ, как было продемонстрировано вчера в результатах MLPerf 6.0.
Как отмечает Дженсен Хуанг, ИИ — это пятислойный пирог, и система Vera Rubin — лишь один из компонентов. Система поддерживается инфраструктурой, изготовленной с высокой точностью, которая обеспечивает ее питание, охлаждение, межсоединения, сетевое взаимодействие и многое другое. Затем следует программный стек, который NVIDIA разрабатывала в течение нескольких лет до такой степени, что ни одна другая компания еще не смогла повторить такой же уровень внедрения или успеха. Он называется CUDA, а для ИИ — CUDA-X.
Вторая система была установлена в CoreWeave и представлена старшим директором по архитектуре вычислений Джейкобом Юндтом. CoreWeave опубликовала полное видео того, как система выгружалась из грузовика, и для ее доставки в центр потребовалось 3–4 человека. Это наглядно демонстрирует, насколько массивна одна стойка, а теперь представьте сотни тысяч таких стоек внутри дата-центров ИИ.
CoreWeave дала интересные названия своим компонентам: программно-определяемому жидкостному охлаждению — Valvey, а унифицированному управлению стойками — Racky. По словам облачного провайдера, они первыми развернули и валидировали платформу NVIDIA Vera Rubin NVL72.
Как уже говорилось, платформа NVIDIA Vera Rubin уже начала свой триумфальный путь, предлагая скорость обучения MoE, используя всего 1/4 графических процессоров, и инференс с 1/10 стоимости за токен по сравнению с Blackwell. Полное серийное производство уже идет, и третий квартал ознаменует начало первых операционных циклов для этой мощной платформы агентного ИИ.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba
