Память с высокой пропускной способностью (High-Bandwidth Flash, HBF), предлагающая большую емкость, чем HBM, не будет использоваться NVIDIA; вместо этого ключевым заказчиком станет Google.
NVIDIA продолжит использовать HBM, HBF пока не рассматривается, но образцы ожидаются позже в этом году
Технология NAND DRAM получила широкое распространение благодаря недавнему буму в области ИИ. Хотя она в основном используется для хранения данных, например, в SSD, грядущая технология флеш-памяти может сыграть важную роль с HBF (High-Bandwidth Flash) — NAND DRAM нового поколения, которая заполняет пробел между HBM и NAND Flash.
HBF разрабатывается совместно SanDisk и SK Hynix, и будет использовать схожую архитектурную иерархию с HBM, предполагающую укладку нескольких слоев NAND Flash друг на друга. Каждый слой будет соединен с помощью множества TSV (Through Silicon Vias), которые объединят все NAND-пакеты в единый стек. В то время как HBM в настоящее время предлагает емкость 32–64 ГБ на стек, HBF масштабируется до 4 ТБ.
Что касается скорости, HBM быстрее, но благодаря архитектурным оптимизациям HBF сможет обеспечить достаточную пропускную способность для критически важных задач ИИ. Стандарт HBF идеален для рабочих нагрузок инференса (вывода), которые сегодня более актуальны из-за всплеска агентного ИИ. Более высокая емкость также компенсирует некоторые ограничения кэша KV (ключ-значение) основного вычислительного чипа.
Хотя HBF звучит многообещающе, отраслевые источники сообщают, что NVIDIA не планирует использовать новую DRAM-технологию в ближайшее время, поскольку считает, что eSSD могут решить проблемы, связанные с емкостью и скоростью. Сообщается, что NVIDIA сотрудничает с Kioxia для производства PCIe Gen7 SSD, которые будут до 100 раз быстрее стандартных моделей, разработанных для рабочих нагрузок ИИ.
На данный момент SK Hynix лидирует в разработке HBF, первые образцы планируется выпустить во второй половине этого года.
Сообщается, что Google станет крупным заказчиком HBF, поскольку планирует внедрить эту технологию в рамках своих планов быстрого расширения в сфере ИИ. Экосистема TPU Google ускоренно растет, и компания наращивает вычислительные мощности за счет нескольких решений TPU следующего поколения в разработке. Остается ли HBF заметным сценарием использования — покажет время, но он предлагает огромный потенциал применения помимо замены HBM, а именно — замену стандартной памяти DDR.
В серверах расширилось использование LPDDR, поскольку ЦП становятся новым ограничивающим фактором в ИИ. Это привело к большой потребности в памяти LPDDR5 и LPDDR5X, особенно SOCAMM2. Благодаря многослойному подходу HBF производители чипов и поставщики экосистем ИИ могут не только уменьшить площадь печатной платы, но и увеличить емкость, сохраняя при этом низкое энергопотребление и высокую пропускную способность.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba
