AMD анонсировала свой совершенно новый ускоритель GPU Instinct MI350P PCIe, который является первым дизайном PCIe за многие годы и ориентирован на рабочие нагрузки искусственного интеллекта (ИИ).
GPU Instinct MI350P PCIe берет чипы MI350X, разрезает их пополам для 128 блоков CU, 144 ГБ HBM3E и мощности 600 Вт
С GPU Instinct MI350P PCIe компания AMD предоставляет корпоративным пользователям возможность расширить свои возможности в области вычислений ИИ без необходимости инвестировать в дорогостоящую инфраструктуру. Дизайн MI350P в формате PCIe делает его простым в использовании и готовым к установке решением, обеспечивающим высокую производительность в стандартном двухслотовом форм-факторе, ориентированном на серверы.
Карты AMD Instinct MI350P PCIe, разработанные для подготовки к эре агентного ИИ, представляют собой двухслотовые карты, готовые к установке в стандартные серверы с воздушным охлаждением. Они созданы для развертывания инференса локально в рамках существующей инфраструктуры питания, охлаждения и стоек вашего центра обработки данных. GPU AMD Instinct в экономичных картах PCIe дополняют портфель вычислительных решений AMD для ИИ, предлагая спектр вариантов для вашего предприятия по мере его продвижения по уникальной кривой внедрения ИИ.
Ниже приведены некоторые ключевые особенности GPU Instinct MI350P PCIe:
- Нативная поддержка форматов с низкой точностью MXFP6 и MXFP4, обеспечивающих высокую пропускную способность.
- Ускорение за счет поддержки разреженности для большинства основных форматов точности 8- и 16-бит.
- Оценочная производительность 2299 терафлопс (TFLOPS) и до 4600 пиковых TFLOPS при MXFP4 — самая высокая производительность, доступная на данный момент в корпоративной карте PCIe.
- Оценочно 144 ГБ высокоскоростной памяти 3e (HBM3E) с пропускной способностью до 4 ТБ/с.
- Открытая экосистема с вариантами стека разработки с низкими или нулевыми затратами упрощает развертывание и помогает снизить эксплуатационные расходы.
Судя по спецификациям, AMD Instinct MI350P использует архитектуру CDNA 4 и основан на том же 3-нм техпроцессе TSMC в конфигурации 4 XCD, что вдвое меньше, чем у MI350X. Он также имеет один кристалл ввода-вывода, основанный на техпроцессе TSMC 6 нм FinFET. На чипе расположено 128 вычислительных блоков, что эквивалентно 8192 потоковым процессорам и 512 матричным ядрам. Ядра работают на пиковой частоте 2200 МГц. Весь чип содержит 73 миллиарда транзисторов.
Что касается памяти, Instinct MI350P оснащен 128 МБ кэша LLC в виде Infinity Cache внутри GPU и 144 ГБ быстрой памяти HBM3E, работающей по шине шириной 4096 бит, обеспечивающей пропускную способность памяти 4 ТБ/с. Для сравнения, MI350X имеет 288 ГБ памяти HBM3E через интерфейс шины 8192 бит. Карта PCIe имеет длину 10,5 дюйма (267 мм) и оснащена дизайном с пассивным охлаждением, что идеально подходит для серверов. AMD также использует 16-контактный разъем для обеспечения тепловой проектной мощности (TBP) карты в 600 Вт. Ее также можно настроить на снижение до 450 Вт.
С точки зрения производительности AMD Instinct MI350P предлагает:
- 4,6 ПФЛОПС MXFP4
- 4,6 ПФЛОПС MXFP6
- 2,3 ПФЛОПС MXFP8
- 2,3 ПФЛОПС FP16 (с разреженностью)
- 1,15 ПФЛОПС FP16
- 72 ТФЛОПС FP16
- 72 ТФЛОПС FP32
- 36 ТФЛОПС FP64
- 2,3 ПОПС INT8
- 4,6 ПОПС INT8 (с разреженностью)
- 1,15 ПФЛОПС BFloat16
- 2,30 ПФЛОПС BFloat16 (с разреженностью)
Как видите, серия AMD Instinct MI350, включая MI350P, предлагает нативное ускорение для различных форматов точности корпоративного ИИ, таких как MXFP6 и MXFP4.
MI350P будет конкурировать с H200 NVL, который является последним ускорительным GPU на базе PCIe от NVIDIA со 141 ГБ памяти HBM3E и работающим на GPU Hopper H200. NVIDIA выпустила RTX PRO 6000 Blackwell серверной версии, но она основана на стандартном чипе GB202, а не на GB200, который является настоящим серверным решением. RTX PRO 6000 Blackwell оснащен 96 ГБ памяти GDDR7. Стоимость GPU H200 NVL составляет около 30–40 тысяч долларов США.
GPU AMD Instinct MI350P PCIe уже доступны у различных партнеров и предлагают полностью открытую экосистему и готовый к использованию в корпоративном секторе стек ПО для ИИ с поддержкой ROCm.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba
