AMD и Qualcomm рассматривают возможность интеграции SOCAMM в свои продукты для искусственного интеллекта, поскольку агентные ИИ-приложения сделали память основным узким местом в современных системах.
Память SOCAMM, изначально эксклюзивная для NVIDIA, теперь может быть принята и конкурентами
SOCAMM — это стандарт памяти, который изначально позиционировался как разработанный для NVIDIA, и “Зелёная команда” стала одним из первых пользователей. Для тех, кто не в курсе, SOCAMM основан на DRAM стандарта LPDDR, традиционно используемой в мобильных устройствах и оборудовании с низким энергопотреблением, но, в отличие от таких решений, как HBM и LPDDR5X, SOCAMM подлежит замене. Он не припаян к печатной плате и позиционируется как надёжный вариант для совместной работы с HBM при выполнении задач, лимитированных пропускной способностью памяти. Согласно сообщению Hankyung, NVIDIA, Qualcomm и AMD изучают возможность интеграции модулей SOCAMM в будущие ИИ-стойки.
Сообщается, что AMD и Qualcomm исследуют подход, отличный от подхода NVIDIA: они планируют разместить “квадратный” модуль с двумя микросхемами DRAM в двух отдельных рядах. Это позволит реализовать управление питанием (через PMIC) непосредственно на самом модуле, обеспечивая более эффективный механизм регулирования и гарантируя, что SOCAMM будет работать на экстремальных скоростях без каких-либо проблем. Перенося PMIC на сам модуль, AMD и Qualcomm также снизят сложность производства материнских плат, устранив необходимость в силовой обвязке.
С другой стороны, по мере расширения внедрения SOCAMM, показатели утилизации DRAM для этого типа памяти также возрастут, учитывая, что при агентном ИИ наличие кратковременного хранилища наряду с HBM стало необходимостью, а SOCAMM позволяет использовать терабайты памяти на один процессор, давая агенту возможность держать “активными” миллионы токенов. Хотя пропускная способность по сравнению с HBM ниже, SOCAMM остаётся жизнеспособным промежуточным и энергоэффективным решением.
На данный момент NVIDIA планирует предложить SOCAMM 2 с кластерами Vera Rubin AI, и, учитывая, что AMD и Qualcomm рассматривают это решение, можно ожидать, что этот тип памяти скоро появится и в их ИИ-кластерах следующего поколения.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Muhammad Zuhair
