Полупроводниковая индустрия пришла к консенсусу, что путь HBM для раскрытия дополнительных вычислительных мощностей ИИ застопорился, особенно потому, что преобразование кремниевых пластин в стек HBM дает гораздо меньше полезной емкости, чем обычная DRAM, что побуждает отрасль экспериментировать с декодированием только на SRAM, Processor-In-Memory (PIM) в LPDDR, объединением CXL и 3D DRAM. Конечно, именно архитектура 3D DRAM в настоящее время считается своего рода панацеей, о чем свидетельствует недавнее признание AMD ее феноменальной энергоэффективности. Тем не менее, отвратительные препятствия продолжают препятствовать коммерциализации этой многообещающей технологии.
AMD только что продемонстрировала феноменальный прирост эффективности, который можно ожидать от жизнеспособной архитектуры 3D DRAM, оснащенной hybrid bonding
Согласно AMD, 3D DRAM с hybrid bonding до 17 раз энергоэффективнее обычного стека HBM. Конечно, у AMD есть уникальные полномочия для таких смелых заявлений. В конце концов, она уже представила свои 3D V-Cache processors, которые используют технологию упаковки, размещающую дополнительную кэш-память вертикально поверх процессора для значительного повышения игровой и вычислительной производительности, в отличие от этих уровней кэш-памяти, расположенных горизонтально на том же куске кремния, что и вычислительные ядра.
Тем не менее, применение технологии 3D-стекирования к DRAM представляет собой уникальный набор проблем. Прежде чем продолжить, давайте кратко напомним, что означают эти термины для тех, кто может быть не в курсе.
- Стек HBM размещает несколько чипов DRAM вертикально, при этом сквозные кремниевые переходы (TSV) обеспечивают пропуск данных через эти вертикальные слои. Затем этот стек размещается рядом с XPU, причем PHY, расположенный непосредственно в самом нижнем базовом слое HBM, управляет передачей данных к XPU и от него.
- 3D DRAM размещает чипы DRAM вертикально над XPU, устраняя узкое место, связанное с PHY. Кроме того, эти вертикальные стеки соединяются друг с другом и с XPU через hybrid bonding.
- Microbumps — это крошечные физические шарики припоя (часто из оловянно-серебряных сплавов), используемые для соединения слоев DRAM в стеке в обычном HBM. Поскольку припой необходимо расплавить для фиксации соединений, это создает физические зазоры между слоями кремния, которые необходимо заполнить жидким пластиковым адгезивом (underfill), что затем приводит к паразитному электрическому сопротивлению и ограничивает плотность размещения соединений, а также задерживает тепло.
- Hybrid bonding, с другой стороны, — это бесконтактная технология упаковки (bumpless), при которой кремниевые пластины полируются до атомарной гладкости, а открытые медные контактные площадки заподлицо встраиваются в тонкий изолирующий диэлектрический слой (обычно оксид кремния или нитрид углерода). Когда два диэлектрических слоя соприкасаются при комнатной температуре, они сливаются на молекулярном уровне. Последующая термообработка заставляет атомы меди расширяться и сливаться непосредственно друг с другом (Cu-Cu соединение).
Однако архитектура 3D DRAM сопряжена с рядом проблем. Более высокие температуры, которые могут возникать на этапе термообработки hybrid bonding, вызывают деградацию регенерации DRAM, поскольку способность ячеек DRAM удерживать заряд ухудшается. Более того, технология требует атомарной гладкости, где случайная частица размером всего в несколько нанометров может испортить соединение медь-медь.
Тем не менее, если нам удастся решить проблему термостойкости — как это делает d-Matrix, размещая слои памяти под XPU — и создать исключительно строгие чистые помещения, технология 3D DRAM может быть реализована достаточно быстро, что приведет к обещанному AMD нирване.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rohail Saleem
