NVIDIA только что анонсировала собственное решение HBM под названием NVHBM, которое будет использоваться в будущих GPU, обеспечивая более высокую пропускную способность и меньшее энергопотребление.
NVHBM — это собственное решение HBM, разработанное NVIDIA и Annapurna Labs (Amazon) для ускорения возможностей DRAM в будущих агентных и физических AI-нагрузках
Решение NVIDIA NVHBM DRAM является расширением NVLink Fusion, обеспечивающим более высокую производительность и эффективность памяти для XPU в то время, когда пропускная способность памяти становится критически важной по мере огромного увеличения размеров моделей в эпоху триллионов параметров.
NVIDIA заявляет, что ее решение NVHBM обеспечивает лучшую пропускную способность и эффективность по сравнению со стандартными решениями HBM за счет выноса контроллера памяти из XPU и размещения его непосредственно в базовом кристалле HBM. Мы видели, как многие производители памяти и разработчики чипов работают над аналогичными решениями.
Такие решения, как Qualcomm HBC, используют аналогичный подход, но со стандартными стеками LPDDR DRAM, а три крупные фирмы — Samsung, SK Hynix и Micron — также подчеркнули внедрение вычислительных и управляющих контроллеров в свои базовые кристаллы HBM в будущих продуктах.
Эта технология будет внедрена в будущие GPU, а сам контроллер памяти будет собственной разработкой NVIDIA, интегрированной в базовый кристалл HBM. Сообщается, что благодаря этому решению пропускная способность памяти увеличится более чем на 30%, а энергопотребление будет на 15% ниже, чем у стандартного решения HBM4E. Вынос контроллера памяти из XPU также экономит до 25% площади кристалла на основном чипе, которую можно выделить под дополнительные вычислительные возможности.
По сравнению со стандартом JEDEC HBM4e, эта конструкция уменьшает площадь PHY и вспомогательных схем до 67%. Более узкий интерфейс также упрощает разводку интерпозера, обеспечивая до 80% больше полезного кремния по всей компоновке.
Таблица 1. NVHBM обеспечивает три основных преимущества на уровне платформы для программ AI-ускорителей: более высокая пропускная способность памяти, большая площадь корпуса и кремния, а также более низкое энергопотребление HBM
Что касается внедрения, NVIDIA устанавливает стандартную реализацию NVHBM, которая будет доступна от нескольких поставщиков памяти. Это поможет снизить инженерные затраты, которые в противном случае потребовались бы для интеграции и квалификации конструкции памяти у нескольких поставщиков. Те, кто является частью экосистемы NVLink Fusion, также смогут быстрее выводить на рынок собственные AI-чипы.
«NVHBM представляет собой новый архитектурный подход к повышению производительности и эффективности высокоскоростной памяти», — сказал Нафеа Бшара, вице-президент Annapurna Labs в Amazon. «Мы с нетерпением ждем этого технологического сотрудничества, которое принесет пользу будущим проектам инфраструктуры AWS».
Одним из первых партнеров, которые будут использовать NVIDIA NVHBM, является Annapurna Labs (Amazon), которая будет совместно работать над интеграцией технологии NVHBM и масштабируемой архитектуры NVLink для повышения производительности и эффективности при AI-нагрузках. Чипы AWS Trainium следующего поколения, начиная с Trainium4, будут использовать NVLink Fusion для соединения GPU NVIDIA с чипами Amazon в рамках общей архитектуры на уровне стоек.
Поскольку NVIDIA уже упоминала собственное HBM для своих GPU Feynman, можно ожидать, что это поколение станет первым, в котором будет применен NVHBM, когда оно выйдет в 2028 году.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba
