SanDisk делает ставку на стекирование NAND и вычислительных ядер в одном чипе на фоне дефицита HBM, тормозящего AI-бум

Sandisk Nand Dram Hbm патенты укладка wccftech.com

SanDisk ищет инновационные решения для преодоления ограничений памяти, предлагая укладку NAND Flash внутри чипов. Рост ИИ выявил узкие места, подталкивая производителей DRAM/NAND к нестандартным подходам. Патент SanDisk описывает 3D-укладку NAND Flash с CBA под вычислительным ядром, используя HBM DRAM для немедленных задач.

SanDisk ищет более инновационные решения для преодоления ограничений памяти, например, путем укладки (стекинга) NAND Flash внутри чипов.

Ограничения Памяти Побуждают Производителя DRAM/NAND К Инновациям: SanDisk Предлагает Укладку NAND Flash Внутри Чипов

Бурный рост ИИ и пропорциональный спрос на вычислительные мощности выявили узкие места, которые подталкивают производителей DRAM и NAND к нестандартным подходам.

В прошлом производители чипов ограничивались внедрением новых технологий памяти, где основным компонентом была DRAM. Однако рост затрат, недостатки в разработке/выходе годных изделий и увеличение энергопотребления привели к сосредоточению внимания на других жизнеспособных решениях. HBM развивалась стабильными темпами, но из-за дефицита она быстро становится узким местом.

SanDisk делает ставку на стекирование NAND и вычислительных ядер в одном чипе на фоне дефицита HBM, тормозящего AI-бум

У HBM есть и другие недостатки, такие как меньшая емкость, и хотя производители DRAM с каждым поколением наращивают скорость и емкость, они пока не успевают за спросом. Кроме того, HBM располагается рядом с основным чипом, что влечет за собой задержки при межсоединениях.

Затем есть NAND, который предлагает большую емкость по более низкой цене, но он расположен дальше от чипа, и передача данных происходит медленнее. NAND также не смог достичь тех же уровней скорости, что и DRAM (HBM).

Объединение Лучшего от DRAM и NAND

Чтобы преодолеть это, производитель NAND SanDisk некоторое время назад представил планы по своему решению HBF (High-Bandwidth Flash — Флэш-память с высокой пропускной способностью). Сообщается, что HBF использует иерархию архитектуры, схожую с HBM, а именно укладку нескольких слоев NAND Flash друг на друга. Каждый слой будет соединен с помощью множества TSV (Through Silicon Vias — Сквозные кремниевые соединения), которые объединят все NAND-пакеты в единую стопку. В то время как HBM в настоящее время предлагает емкость 32–64 ГБ на стек, HBF масштабируется до 4 ТБ.

Хотя это решает проблемы емкости и скорости, будущие потребности ИИ и HPC требуют большего. И здесь в игру вступает последний патент SanDisk, «US 12,430,274 B2». Патент исследует идею 3D-укладки кристалла NAND Flash с использованием CBA (CMOS Bonded Array) под основным вычислительным кристаллом, которым может быть ускоритель ИИ или GPU. Решение по-прежнему использует HBM DRAM на том же интерпозере, но выполняет иную функцию.

SanDisk делает ставку на стекирование NAND и вычислительных ядер в одном чипе на фоне дефицита HBM, тормозящего AI-бум
Источник изображения: US Patents

Это похоже на то, как убить двух зайцев одним выстрелом: HBM выполняет задачи по памяти, требующие немедленного внимания, в то время как NAND Flash на кристалле памяти используется для операций чтения/записи и для больших наборов данных. NAND Flash обеспечивает более широкие соединения между вычислительным чипом и кристаллом памяти, что снижает скорость, стоимость и энергопотребление.

Обрабатывающее ядро включает многоядерный процессор, интегрированный непосредственно в энергонезависимую память с высокой пропускной способностью и большой емкостью. Процессор может, например, быть большим графическим процессором (GPU) или процессором искусственного интеллекта (AI). Энергонезависимая память может включать кристалл памяти CBA (CMOS bonded to array), имеющий один большой кристалл памяти NAND, соединенный с кристаллом логической схемы CMOS. Интегрированный процессор и кристалл памяти CBA могут быть закреплены на интерпозере. Обрабатывающее ядро может также включать стопки полупроводниковых кристаллов HBM (High Bandwidth Memory), закрепленных на интерпозере вокруг одной или нескольких сторон процессора и кристалла памяти CBA.

Хотя это будущее может дать нам представление о методологиях, которые преодолеют узкие места в памяти, следует отметить, что это пока только патент. Необходимо решить множество вопросов, таких как энергопотребление, стоимость производства такого чипа (включающего как NAND, так и DRAM в одном корпусе) и многое другое, прежде чем мы увидим нечто подобное в реальности.

Патент создает реальный, тщательно проработанный барьер вокруг этой архитектуры «процессор на NAND», особенно в отношении широкополосной маршрутизации через кристаллы, которую трудно воспроизвести. Однако продукт, который сегодня движется к стандартизации, следует более простому, готовому к рынку подходу «рядом». Самая интересная история все еще разворачивается: сможет ли SanDisk в конечном итоге устранить разрыв между тем, что он защитил, и тем, что он поставляет. Анонс — это заголовок; патент — это более глубокая стратегическая карта.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: