OpenAI опубликовала новый патент, в котором описывается ИИ-чип, содержащий несколько вычислительных чиплетов, окруженных большим количеством стеков памяти HBM.
Один вычислительный чиплет, несколько стеков памяти HBM: таковы могут быть планы OpenAI по созданию ИИ-чипов
В новом патенте под названием “Несоседнее соединение чиплетов памяти с высокой пропускной способностью, чиплетов ввода-вывода и вычислительных чиплетов через встроенные логические мосты” OpenAI делится планами по созданию решения для ИИ-чипов, которое будет включать несколько чиплетов HBM и вычислительных чиплетов, соединенных с использованием встроенных логических мостов (Embedded Logic Bridges).
Исследование предлагает идею использования этих встроенных логических мостов для высокоскоростных межсоединений на больших расстояниях, что позволяет подключать больше чиплетов для поддержки высокопроизводительных вычислений и рабочих нагрузок ИИ, требующих доступа к большим объемам памяти для эффективной работы.
Современные упаковочные решения имеют определенные ограничения в отношении интеграции HBM, поскольку память HBM взаимодействует с другими чиплетами на корпусе с помощью металлических проводов на базовом слое. Текущий стандарт JEDEC требует, чтобы память HBM располагалась рядом с вычислительным чиплетом, и этот подход имеет физические ограничения, поскольку длина металлических проводов от PHY-контроллера на основном чиплете не должна превышать 6 мм.
Для преодоления этого ограничения патент OpenAI предлагает использовать встроенные логические мосты, которые могут увеличить расстояние с 6 мм до 16 мм. Эти мосты имеют два преимущества: они не только обеспечивают большую дальность связи, но также могут выполнять функции контроллера для стека HBM или функции высокоскоростного PHY для связи между чиплетами внутри корпуса. Этот интерфейс D2D (Die-to-Die) соответствует стандарту UCIe (Universal Chiplet Interconnect Express).
В качестве примера OpenAI демонстрирует вычислительный чиплет с 20 стеками HBM с использованием встроенных логических мостов. При традиционных подходах количество стеков ограничено четырьмя, шестью или восемью. Это значительно увеличивает емкость памяти, что приводит к созданию чипов, мощных для более крупных моделей ИИ.
Однако это исследование тесно связано с технологией, над которой уже кто-то работает. Это решение Intel EMIB, или Embedded Multi-Interconnect Bridge. EMIB — это передовое упаковочное решение, которое действует как мост.
Оно предназначено для работы с технологией 2.5D-упаковки, используя крошечные мосты для расширения возможностей и дизайна высокопроизводительных чипов. EMIB и его преемник, EMIB-T, имеют ряд преимуществ: они просты, малы, выходят за пределы лимитов решетки современных интерпозеров и являются экономически эффективными решениями.
Увидим ли мы будущее, в котором технология Intel EMIB будет использоваться OpenAI для создания своих собственных ИИ-чипов с множеством чиплетов и большим объемом памяти HBM? Что ж, этот патент, похоже, указывает именно на это.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba
