Бывший генеральный директор Intel вновь раскритиковал HBM как несовершенную архитектуру памяти, хотя и назвал ее «лучшей из имеющихся». Тем временем, как прямое следствие продолжающегося сдвига производства в сторону HBM за счет стандартной DRAM, компания Nanya подтвердила, что дефицит DRAM сохранится до начала 2028 года.
После того как в июле назвал HBM «паршивым» решением, бывший генеральный директор Intel Пэт Гелсингер вновь усилил свою критику
Бывший глава Intel в ходе обширного интервью a16Z выступил с резкой критикой решения High-Bandwidth Memory (HBM), отметив:
«HBM — это отвратительная память. Это просто лучшая из тех, что у нас есть. … Это ужасная память. Вы знаете, у нее ужасная плотность битов. Я ограничен пропускной способностью по периметру, мощностью, тепловыми проблемами. DRAM не любит быть горячей. Концентрация всего в одном месте. … это ужасно для ИИ, который является рабочей нагрузкой, связанной с вычислениями и памятью».
Для тех, кто может быть не в курсе, PHY (интерфейс физического уровня) — физический транслятор между основной логикой GPU/ASIC и стеком HBM — является основной причиной проблемы пропускной способности по периметру, которая, по сути, представляет собой физическое и архитектурное узкое место, вызванное конечным периметром, или «береговой линией», вычислительного кристалла.
HBM — это архитектура «широкая и медленная», требующая огромного количества параллельных соединений. Например, HBM3/3E имеет ширину шины 1024 бита, а HBM4 увеличивает ширину шины до 2048 бит. Поэтому неудивительно, что один интерфейс HBM имеет большое количество физических соединений/выводов (микровыступов), а PHY содержит драйверы, приемники и логику маршрутизации для каждого из этих выводов.
Следовательно, PHY занимает массивный, негибкий прямоугольный блок кремния прямо на краю (береговой линии) вычислительного кристалла. И именно этот периметр действует как жесткое ограничение на количество стеков HBM, которые могут быть размещены рядом с чипом. Кроме того, обычно только два края вычислительного кристалла могут быть выделены для HBM, а два оставшихся края обычно зарезервированы для системного ввода-вывода, что еще больше усугубляет проблему пропускной способности по периметру.
Как будто этого ограничения было недостаточно, PHY создает тепловую точку, которая может существенно снизить эффективность HBM. Например, согласно тепловому анализу KAIST, в то время как ядро GPU доминирует в тепловыделении при низкой загрузке памяти, как только энергопотребление HBM превышает примерно 30 Вт, собственное тепловыделение PHY HBM становится основным источником тепловой нагрузки на память.
Наконец, учитывая тот факт, что отдельные кристаллы DRAM в стеке HBM должны быть соединены через большое количество сквозных кремниевых переходов (TSV), которые затем уменьшают количество ячеек памяти, которые могут быть размещены на одном кристалле, каждый кристалл DRAM имеет значительно более низкую плотность битов, даже несмотря на то, что весь стек совокупно предлагает более высокую плотность на квадратный миллиметр.
Обратите внимание, что Пэт Гелсингер высказал аналогичные пренебрежительные замечания о HBM еще в июле, когда на саммите RAISE отметил, что HBM — это «паршивая» память:
«Мы слышали о HBM, высокопроизводительной памяти. И HBM — это паршивая память. И я знаю, что мои друзья по памяти собираются выйти на сцену, и называть своего ребенка уродливым, возможно, не лучший способ завести друзей и повлиять на людей. Но это паршивая память».
Между тем, мы уже знаем, что HBM потребляет примерно в 3 раза больше пластин, чем аналогичная по размеру стандартная DRAM. Это привело к хроническому дефициту стандартной DRAM, и Nanya добавила свой голос к этому хору, отметив на своем недавнем отчете о прибылях, что ИИ вызывает структурные изменения в более широкой сфере памяти, и ожидаемый дефицит DRAM, вероятно, сохранится до начала 2028 года.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rohail Saleem
