Последний прорыв Micron в индустрии памяти — это дебют более производительных модулей памяти SOCAMM2, отличающихся передовой емкостью и энергоэффективностью.
Новые модули SOCAMM2 от Micron нацелены на снижение узких мест с помощью KV-кэша, что обеспечивает снижение задержек в рабочих нагрузках
С развитием уровня «приложений» в сфере ИИ узкое место в памяти становится все более ощутимым по мере масштабирования рабочих нагрузок. Именно поэтому производители DRAM уделяют особое внимание достижениям в области HBM и других продуктах памяти, специфичных для ИИ. В последнем анонсе Micron компания установила «новый ориентир» с модулями памяти SOCAMM2, увеличив емкость на модуль до 256 ГБ, что является огромным скачком по сравнению с предыдущим порогом в 192 ГБ. По данным компании, SOCAMM2 будет интегрирован в современное оборудование для ИИ-инфраструктуры и поможет решить проблему ограничений памяти.
Достижения Micron в обеспечении огромной емкости и пропускной способности памяти при меньшем энергопотреблении по сравнению с традиционной серверной памятью с помощью 256 ГБ SOCAMM2 открывают путь для следующего поколения ЦП для центров обработки данных в сфере ИИ.
– Иэн Файндер, руководитель отдела продуктов для ЦП центров обработки данных в NVIDIA
В последней итерации SOCAMM2 Micron увеличила емкость одного монолитного кристалла LPDRAM до 32 ГБ. Модель на 256 ГБ обеспечивает 2 ТБ LPDRAM на 8-канальный ЦП, что позволяет ИИ-серверам с легкостью обрабатывать большие контекстные окна. Micron также заявляет, что с новым решением SOCAMM2 время TTFT (Time To First Token) для инференса с длинным контекстом увеличилось в 2,3 раза, что значительно помогает в поддержке агентских рабочих нагрузок, где ключевое внимание уделяется автономным приложениям ЦП.
SOCAMM2 — это решение, разработанное в сотрудничестве с NVIDIA, и ранее мы обсуждали, что Vera Rubin станет одним из первых предложений в области ИИ-инфраструктуры, использующих новый стандарт памяти. В мире ИИ память стала важным активом в рабочих нагрузках, где важны задержка и контекст, но в то же время SOCAMM2 является одним из продуктов, который займет изрядную долю поставок DRAM, вероятно, сократив выделение для общецелевых продуктов, таких как GDDR7.
Micron сообщает, что образцы 256 ГБ SOCAMM2 уже отправлены заказчикам, и это решение будет представлено на GTC 2026 в этом году.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Muhammad Zuhair
