Корпорация NVIDIA значительно сокращает объем памяти, используемый в своей стоечной ИИ-системе Vera Rubin NV72, чтобы справиться с высокими ценами и продолжающимся дефицитом памяти, согласно анализу GF Securities. Такое решение стало возможным после того, как NVIDIA заключила долгосрочные соглашения на поставку памяти до начала дефицита в отрасли, что позволило ей пережить шторм, с которым столкнулось большинство технологических компаний из-за производственных ограничений, вызванных высоким спросом.
Снижение объема памяти может позволить NVIDIA сократить стоимость стоек Rubin NVL72 почти на 50%, сообщается в отчете
Стойки NVIDIA Vera Rubin NVL72 входят в число самых мощных ИИ-систем в мире. После анонса в январе первые показатели производительности стоек появились в начале этого месяца, когда CoreWeave опубликовала данные пропускной способности для различных ИИ-систем. Результаты показали, что при вычислении рабочих нагрузок mixture of expert (MoE) системы на базе ИИ-ускорителей NVIDIA Blackwell обеспечивали пропускную способность 80 000 токенов в секунду при энергопотреблении 150 мегаватт, а платформа VR200 NVL72 Vera Rubin увеличила этот показатель в 10 раз — до 800 000 токенов в секунду.
Эти результаты появились после более раннего отчета Bernstein, в котором указывалось, что стойка NVL72 Rubin может стоить 9,1 миллиона долларов за штуку, в первую очередь из-за более высоких цен на память. Bernstein отметил, что оценки, предполагавшие стоимость стойки в 7,8 миллиона долларов, основывались на устаревших данных о ценах на память. Финансовая фирма добавила, что цены на память HBM4 могут вырасти до 53 долларов за гигабайт к 2027 году.
Теперь отчет GF Securities предполагает, что NVIDIA вносит коррективы для решения проблем с предложением и ценами на рынке памяти. Начиная со стоек Vera Rubin NVL72, аналитики полагают, что компания сократит емкость SOCAMM (Small Outline Compression Attached Memory Module) стоек вдвое — с прежних 192 ГБ до 96 ГБ. Эти корректировки связаны с ограничениями на рынке LPDDR5X.
Аналогичным образом, процессоры Vera сократят объем памяти до 28 ТБ с прежних 54–55 ТБ, в то время как GPU продолжат использовать 20,7 ТБ памяти HBM4 на стойку. Что касается SOCAMM для процессорных стоек, аналитическая фирма считает, что они также будут использовать 96 ГБ SOCAMM на процессор.
Финансовые последствия этих решений означают, что затраты на LPDDR5X для VR200 могут снизиться до 293 000 долларов в случае сокращения емкости в четыре раза или до 586 000 долларов, не достигая предыдущей оценки в 1,2 миллиона долларов. GF Securities добавляет, что без корректировок затраты на память могли бы составлять 29% от общей стоимости материалов системы VR200 в 2,1 миллиона долларов. Уровень в 29% превышает предпочтительный показатель в 20%.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Ramish Zafar
