Аппаратное обеспечение Nvidia последнего поколения становится общедоступным в Oracle Cloud Infrastructure.
Системы Nvidia Vera Rubin NVL72 и процессоры Vera CPU, анонсированные на мероприятии Oracle AI World, теперь общедоступны на облачной платформе Oracle.
Oracle также планирует добавить системы Nvidia Vera Rubin в свое предложение «Superclusters», которое будет развернуто в масштабах гигаватт. Позднее будут добавлены системы Rubin HGX NVL8, которые будут предлагать восемь GPU Rubin, подключенных через NVLink, в конфигурации сервера на базе x86.
OCI Superclusters объединяют стоечные системы Nvidia NVL72, сетевое оборудование Oracle Acceleron с сетевым оборудованием Ethernet Nvidia Spectrum-X, включающим коммутаторы Nvidia Spectrum-6 и DPUs Nvidia BlueField-4, а также питание и охлаждение гигаваттного класса для обучения и обслуживания крупнейших моделей ИИ. Каждая стойка объединяет 72 GPU через масштабируемую сеть Nvidia NVLink, в то время как отказоустойчивая, многоплоскостная сеть OCI масштабируется до сотен тысяч GPU.
Добавление Vera Rubin в Superclusters основано на существующем вычислительном оборудовании Nvidia Grace Blackwell от Oracle, которое доступно в настоящее время и использовалось OpenAI в Abilene для обучения GPT-6 Astra.
OpenAI использовала OCI Supercluster, состоящий из более чем 100 000 GPU Blackwell.
«По мере развития наших передовых моделей нам нужна инфраструктура, которая сможет идти в ногу с ними», — сказал Срикант Потанис, руководитель отдела вычислительной инфраструктуры в OpenAI. «Nvidia Vera Rubin на OCI предоставляет нам вычислительную мощность и масштабируемость для ускорения обучения моделей и обслуживания все более требовательных рабочих нагрузок ИИ».
Развертывание одних только процессоров Vera CPU нацелено на рабочие нагрузки, связанные с интеллектуальными агентами, сочетая высокую производительность на один поток с пропускной способностью памяти, чтобы помочь агентам быстрее выполнять ресурсоемкие задачи.
«Oracle Cloud Infrastructure предоставляет клиентам производительность, безопасность и масштабируемость для развития передовых ИИ», — сказал Махеш Тиагараджан, президент Oracle Cloud Infrastructure, Oracle. «Наше сотрудничество с Nvidia расширяет эти возможности для обучения, инференса и интеллектуальных агентов. Объединяя GPU Nvidia Vera Rubin и процессоры Vera CPU с сетевым оборудованием Oracle Acceleron и оптимизированными для ИИ центрами обработки данных, мы помогаем клиентам поддерживать продуктивность, безопасность и эффективное масштабирование GPU по мере роста их потребностей».
Oracle наращивает мощности CPU
Помимо аппаратного обеспечения Nvidia, Oracle объявила о многолетнем сотрудничестве с Intel по расширению вычислительных мощностей на базе Intel Xeon в OCI, включая текущие платформы Xeon и планируемые предложения OCI X14 на базе серверного процессора следующего поколения Intel под кодовым названием Diamond Rapids.
Процессоры становятся все более важными для рабочих нагрузок ИИ по мере быстрого внедрения интеллектуальных агентов. Партнерство с Intel увеличит емкость CPU в OCI, предоставляя клиентам доступ к привычным инструментам и программным средам.
«По мере масштабирования интеллектуальных агентов им требуются процессоры, способные запускать программное обеспечение, перемещать и защищать данные, а также ускорять инференс. Xeon объединяет производительность и аппаратное шифрование, предоставляя организациям надежную, экономически эффективную основу для масштабирования ИИ», — сказал Кеворк Кечикян, исполнительный вице-президент и генеральный менеджер Intel Data Center Group. «Наше расширенное сотрудничество с Oracle призвано объединить многопоколенческий план развития Intel с технологией Oracle Cloud Infrastructure, чтобы помочь клиентам быстрее и эффективнее использовать ИИ».
Планируемые предложения OCI X14 на базе Diamond Rapids будут ориентированы как на ИИ, так и на общие вычисления, включая Intel Advanced Matrix Extensions (AMX) с поддержкой FP8, FP16 и BF16 для инференса, и Intel Advanced Performance Extensions (APX) для снижения накладных расходов на инструкции в приложениях.
Тем временем, совместно с AMD, Oracle приближается к запуску своих экземпляров E7, которые будут использовать процессоры AMD Epyc шестого поколения, с DPUs AMD Pensando, поддерживающими сетевые карты Oracle Acceleron для экземпляров на базе AMD.
Экземпляры E7 предназначены для поддержки задач CPU, связанных с моделями ИИ. Экземпляры используют процессоры AMD Epyc 6-го поколения из серии Epyc 9006 Server Processor. Процессоры Epyc 6-го поколения обеспечивают до 256 ядер и 512 потоков на сокет, до 1024 МБ кэш-памяти L3, 16 каналов памяти с пропускной способностью до 8000 MTps и подключение PCIe 6.0. Они обеспечивают значительное превосходство над процессорами Epyc 5-го поколения, и компания утверждает, что они быстрее и эффективнее обрабатывают корпоративные рабочие нагрузки, а также позволяют развертывать больше агентов на экземпляр и на ватт.
Oracle также раскрыла планы по интеграции на свою платформу различных архитектур чипов, включая вычисления Cerebras на пластине, чипы SambaNova и другие.
Чипы Cerebras разработаны для высокоскоростного инференса ИИ и объединяют вычисления и память на одном процессоре, охватывающем всю пластину, для уменьшения перемещения данных и межчипового взаимодействия.
«Люди хотят ИИ, который может быстро выполнять ценную работу», — сказал Эндрю Фельдман, соучредитель и генеральный директор Cerebras. «Каждый шаг, который делает агент, требует инференса, будь то рассуждение, проверка своей работы или действие. Чем быстрее инференс, тем больше работы может выполнить ИИ, не заставляя пользователей ждать. Интеграция быстрого инференса Cerebras в Oracle Cloud Infrastructure дает ИИ-лабораториям, предприятиям и разработчикам скорость для создания агентов, которые делают больше и быстрее».
Cerebras Inference на OCI планируется к доступности в 2027 календарном году.
Подробности о партнерстве с SambaNova остаются скудными, кроме того, что Oracle интегрирует чип SN50 компании. Конкретные сроки пока не объявлены.
Последний игрок — чип Positron Atlas, который теперь общедоступен в OCI.
Серверы Positron Atlas Inference специально разработаны для больших языковых моделей и обеспечивают низкую задержку для популярных моделей с открытым весом. Positron Atlas подключен к сети через Oracle Acceleron.
Atlas — это чип первого поколения Positron, изготовленный Intel в США, и в настоящее время поставляется клиентам. Positron утверждает, что аппаратное обеспечение может обеспечить в три раза большую производительность на ватт по сравнению с GPU Nvidia H100 и поддерживать модели с количеством параметров до 500 миллиардов.
Новые чипы, поступающие в OCI, присоединятся к Google TPU, развертывание которых на OCI Oracle сегодня анонсировала в рамках многолетнего контракта на гигаватты.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Georgia Butler
