Узкое место носит структурный характер — это означает, что при каждом отдельном запросе происходит маршрутизация через одни из самых дорогих и энергоемких чипов в отрасли. Именно эту неэффективность пытается решить XCENA, стартап с офисами в Южной Корее и США. Четырехлетний стартап разработал чип, который размещает вычислительные мощности гораздо ближе к DRAM — быстрым чипам кратковременной памяти, хранящим данные, которые процессор активно использует, — что позволяет выполнять рутинные операции с данными вблизи памяти, без дорогостоящих обратных путей между ЦП, ГП и памятью.
Если это сработает в масштабе, последствия для затрат на инфраструктуру ИИ могут быть значительными, что во многом объясняет энтузиазм инвесторов в отношении компании. Действительно, XCENA только что привлекла 135 миллионов долларов в рамках раунда Серии B с оценкой в 570 миллионов долларов, доведя общий объем привлеченных средств до 185 миллионов долларов.
Генеральный директор XCENA Джин Ким (Jin Kim) основал стартап в 2022 году вместе с техническим директором Дохуном Кимом (Dohun Kim) и директором по продукту Гарри Джухюном Кимом (Harry Juhyun Kim) — все они являются ветеранами Samsung и SK Hynix, гигантов в области памяти, поставляющих чипы для графических процессоров Nvidia. «ЦП и ГП становились умнее на протяжении десятилетий. Память — никогда. XCENA хочет это изменить», — сказал Ким в интервью TechCrunch. «Недавний рост цен на память и связанных с ней акций указывает на более широкий сдвиг в инфраструктуре ИИ в сторону архитектур, ориентированных на память», — добавил он. (В этом месяце три компании, доминирующие на мировом рынке чипов памяти — Samsung, SK Hynix и Micron — впервые достигли оценки в триллион долларов каждая).
XCENA делает ставку на тезис о том, что «инференс — это не просто вычислительная проблема; это все в большей степени проблема масштабирования памяти», — сказал Ким.
Чип XCENA, MX1, подключается к ЦП через CXL (Compute Express Link) — по сути, выделенную экспресс-линию между процессором и памятью — обрабатывая данные до того, как им потребуется покинуть модуль памяти. Он подводит вычисления к данным, а не наоборот. Компания утверждает, что то, что раньше требовало 10 серверов, потенциально может работать всего на одном.
«В то время как ГП отлично справляются с матричным умножением — сложными вычислениями, лежащими в основе обучения моделей ИИ, — большая часть сопутствующей оркестровки данных, включая предварительную обработку, управление KV-кэшем [система, которая хранит контекст предыдущего разговора, чтобы модели не приходилось его перерабатывать] и кэширование данных, по-прежнему выполняется на ЦП. Наш чип обрабатывает эти задачи непосредственно внутри самого модуля памяти», — сказал Ким.
Спрос на решения для памяти резко возрос со второй половины прошлого года, и компания считает, что время работает в ее пользу.
Переговоры с несколькими мировыми поставщиками памяти находятся на ранней стадии, хотя Ким отказался их называть. Идеальными клиентами компании являются гиперскейлеры, тратящие десятки миллиардов в год на инфраструктуру ИИ, где даже небольшое повышение эффективности памяти может означать сотни миллионов экономии.
MX1 пока является прототипом. Массовое производство чипов запланировано на линиях литейного цеха Samsung к концу 2026 года, при этом компания ожидает начать получать выручку с 2027 года.
В то время как производители нейроморфных процессоров (NPU) соревнуются, чтобы бросить вызов Nvidia в задачах обучения, XCENA нацелена на интенсивно используемый слой памяти, который лежит в основе всего этого.
Ближайшими конкурентами XCENA являются Astera Labs и Marvell — обе компании, котирующиеся на Nasdaq, работающие над связью нового поколения для памяти. Marvell — крупный, устоявшийся игрок, уже работающий в этой области, сказал Ким, добавив, что дифференциатор сводится к интеллектуальной собственности. «У нас тысячи ядер», — сказал Ким. Основываясь на общедоступных спецификациях, подход Marvell по сравнению с этим полагается на небольшое количество универсальных ядер.
Эти ядра построены на RISC-V — открытом эталоне дизайна чипов — и специально оптимизированы для обработки данных, при этом каждое ядро намеренно сделано маленьким и эффективным. Помимо самих ядер, XCENA разрабатывает собственную внутреннюю иерархию памяти, шину интерконнекта и контроллер DRAM — уровень вертикальной интеграции, который большинство чиповых компаний, включая более крупных конкурентов, обычно передают на аутсорсинг.
Фирмы венчурного капитала из Сеула Altinum и IMM Investment совместно возглавили раунд Серии B, наряду с Corstone Asia и существующими инвесторами SBI Investment и Mirae Asset Capital. Компания, в которой работает более 90 сотрудников в офисах в Пангео, технологическом центре за пределами Сеула, и в Саннивейле, также ведет переговоры с международными инвесторами о дополнительном финансировании.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Kate Park
