Новый стандарт HBF описывает технологию, способную дать GPU терабайты дополнительной памяти

Hbf сандиск ск хайникс 3d Nand ии Ocp tomshardware.com

Узнайте о спецификации HBF от СанДиск и СК Хайникс, обещающей до 3 ТБ/с пропускной способности для систем вывода ИИ. Пока интерес проявляют лишь четыре компании — ознакомьтесь с деталями и перспективами технологии.

СанДиск и СК Хайникс во вторник официально представили спецификацию High Bandwidth Flash (HBF) — совместно разработанную технологию хранения данных, которая обещает объединить энергонезависимость 3D NAND и производительность High Bandwidth Memory (HBM), что будет полезно для систем вывода ИИ. Спецификация была опубликована через Open Compute Project (OCP), поэтому она станет открытым стандартом, а не проприетарным интерфейсом.
Первоначальная спецификация определяет пакеты HBF ёмкостью до 512 ГБ с использованием стеков кристаллов NAND 8-Hi или 16-Hi, хотя это будут не стандартные стеки 3D NAND, а специализированные устройства с быстрым интерфейсом. Фактически, СанДиск ранее называл их базовыми кристаллами HBF, а не стеками кристаллов 3D NAND.
Производительность HBF делится на три класса пропускной способности: от примерно 0,4 ТБ/с до 3,0 ТБ/с (хотя мы не уверены, описывает ли эта цифра всю подсистему HBF или пропускную способность одного пакета). Такой огромный диапазон производительности предполагает, что СанДиск и СК Хайникс ожидают многолетнюю дорожную карту HBF с несколькими реализациями и поколениями. Примечательно, что самая производительная реализация HBF (3 ТБ/с) должна превзойти пропускную способность памяти одного стека HBM4 (2 ТБ/с), хотя вряд ли она превзойдёт HBM4 по задержкам.
Интересно, что СК Хайникс утверждает, что HBF использует стандарт Universal Chiplet Interconnect Express (UCIe) для упрощения интеграции с гетерогенными вычислительными платформами, тогда как СанДиск заявляет, что HBF будет использовать интерфейс «xPU-HBF», который может быть его определением UCIe, реализованным такими компаниями, как Broadcom или Marvell.
Помимо целей по ёмкости и производительности, спецификация устанавливает электрические и интерфейсные характеристики, требования к упаковке и надёжности для стековых устройств HBF, а также требования к программному вводу-выводу. Пока эти спецификации официально не опубликованы OCP.
Извлечь 400 ГБ/с пропускной способности из одного пакета HBF ёмкостью 512 ГБ — нетривиальная задача. Чтобы обеспечить такой пакет, СанДиск ранее планировал использовать 16 базовых кристаллов HBF, которые содержат множество массивов, доступ к которым можно осуществлять одновременно с помощью выделенных путей чтения/записи. Между тем, можно достичь более 400 ГБ/с пропускной способности на пакет, используя один интерфейс UCIe, работающий на скорости до 64 GT/s и имеющий 64 линии. Однако это означает, что базовый кристалл HBF будет довольно сложным куском кремния.
СанДиск и СК Хайникс позиционируют HBF как новый уровень памяти для рабочих нагрузок вывода ИИ, сочетая пропускную способность, близкую к памяти, с более высокой ёмкостью и энергонезависимостью флеш-памяти NAND. Технология предназначена для рабочих нагрузок, требующих значительно больших пулов памяти рядом с вычислителем, чем может экономически обеспечить только HBM. Например, максимальная ёмкость стека HBM4 составляет 64 ГБ, а стек HBF может обеспечить до 512 ГБ. Даже при более низкой пропускной способности такая память может быть полезна для задач вывода.
Пожалуй, самый большой вопрос о HBF — кто будет внедрять эту технологию? С тех пор как СанДиск и СК Хайникс объявили о планах совместно определить спецификацию HBF в 2025 году, только Google и Tenstorrent выразили заинтересованность в участии в консорциуме HBF. Между тем, AMD, Broadcom, Intel, Nvidia, Marvell, Micron, Qualcomm, Samsung и Western Digital пока не проявили интереса к HBF.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

В тренде:


Похожие новости: