Похоже, индустрия искусственного интеллекта теперь сосредоточена на создании оптимизированных для инференса AI SSD на базе NAND-чипов, поскольку SK hynix планирует представить такое решение к 2027 году.
NVIDIA и SK hynix совместно разрабатывают “AI SSD”, который может принести огромную пользу для задач инференса
По мере того как традиционные задачи ИИ смещаются от обучения к инференсу, возникает необходимость в обновлении технологического стека для обеспечения среды с низкой задержкой и высокой пропускной способностью. Одной из причин этого является решение NVIDIA интегрировать универсальную память GDDR7 в GPU Rubin CPX для предварительной загрузки. Теперь, согласно отчету Chosun Biz, аналогичный подход ожидается и с NAND-чипами. Утверждается, что NVIDIA и SK hynix разрабатывают новое SSD-решение под названием “Storage Next” в рамках внутреннего проекта, которое может революционизировать сегмент NAND.
По сообщениям, SK hynix планирует представить прототип к концу следующего года, а AI SSD сможет достигать огромной производительности в 100 миллионов IOPS, что значительно больше по сравнению с традиционными корпоративными SSD. Анализируя необходимость такого решения, становится ясно, что текущая структура рабочих нагрузок ИИ требует постоянного доступа к массивным параметрам моделей, что не могут обеспечить HBM или универсальные DRAM-продукты. AI SSD в конечном итоге позволит создать псевдо-память, оптимизированную для рабочих нагрузок ИИ.
Корейский гигант, по сообщениям, сотрудничает с NVIDIA в рамках проекта Storage Next с основной целью повышения пропускной способности и энергоэффективности за счет передовых архитектур NAND и контроллеров. Хотя цель, безусловно, кажется оптимистичной, важно также отметить, что линии поставок NAND уже находятся под огромным давлением из-за спроса на хранилища со стороны CSP и гигантов ИИ. Учитывая, что обсуждаемое решение AI SSD действительно станет мейнстримом, можно ожидать ситуации, подобной DRAM, и с чипами NAND Flash.
Похоже, что обеспечение работы ИИ-нагрузок сопряжено с высокой стоимостью, которая нарушает существующие цепочки поставок, не давая ни потребителям, ни поставщикам времени для реакции на меняющуюся ситуацию спроса и предложения. Контрактные цены на DRAM ухудшаются с каждым днем, и, судя по всему, NAND может быть следующей.
Автор –
