Arm отмечает рост спроса на свои AGI CPU благодаря бурно развивающемуся сегменту Agentic AI, параллельно разворачивая ядра Neoverse третьего поколения.
Arm строит AGI CPU для Agentic AI на базе ядер Neoverse V3
На конференции Hot Chips 2026 Эдди Рамирес (вице-президент по маркетингу подразделения облачных AI-решений Arm) и Джефф Дефилиппи (старший директор по управлению продуктами Arm) подробно разобрали Arm AGI CPU и реакцию клиентов на него в сегменте AI.
Arm сообщает, что на данный момент отгружено 1,5 миллиарда ядер Neoverse в центры обработки данных, причём 500 миллионов из них — за последние девять месяцев. В настоящее время Arm занимает более 60% рынка в качестве хост-CPU на серверных платформах для AI (согласно отчёту IDC за 2026 год), и более 120 000 компаний уже развернули решения Arm в облаке.
Основным драйвером такого взрывного роста внедрения Arm IP является Agentic AI. Arm прогнозирует, что к 2030 году использование токенов AI-агентами вырастет в 24 раза, и они всё больше зависят от CPU. В сфере корпоративной автоматизации задачи распределяются поровну между CPU и ускорителями (50/50), в разработке ПО соотношение составляет 60/40, а в финансовом анализе — 40/60. Аналогичным образом ведущие производители CPU сообщают, что в будущем соотношение между CPU и AI-ускорителями в пространстве Agentic AI сместится к 1:1 и даже 2:1.
CPU необходимы для различных инструментов и процессов оркестрации. В задачах планирования и рассуждения CPU выполняют основную работу, тогда как ускорители обрабатывают задачи логического вывода LLM (Prefill+Decode). Ниже приведено распределение нагрузки на CPU при выполнении каждой задачи:
- Использование инструментов: IPC, ввод-вывод, конкурентность
- Оркестрация: конкурентность, утилизация
- Рассуждение: предсказание ветвлений, кэш, задержки памяти, пропускная способность
Разбор Neoverse V3
Чтобы ускорить эти рабочие нагрузки, Arm разработала собственный CPU под названием AGI. AGI CPU был представлен несколько месяцев назад и является частью комплексной дорожной карты, включающей несколько поколений и стоечные решения.
Ключевая особенность этого CPU — использование архитектуры ядра Arm Neoverse V3. Он оснащается до 136 ядер на чип, каждое ядро имеет 2 МБ выделенного кэша L2, а частота достигает 3,7 ГГц. Чип изготавливается по техпроцессу TSMC 3 нм и представляет собой двухчиплетную конструкцию, где каждый чиплет содержит более 50 миллиардов транзисторов. TDP чипа составляет максимум 300 Вт.
AGI CPU имеют память и ввод-вывод на одном кристалле, что обеспечивает задержку доступа к памяти менее 100 нс для оптимизированного по задержкам доступа. Чип оснащён 96 линиями PCIe Gen6, CXL 3.0 для памяти и других расширений, а также линками расширения AMBA CHI. Каждое ядро поддерживается пропускной способностью памяти 6 ГБ/с благодаря поддержке DDR5-8800 (ёмкость 6 ТБ на чип).
Углубляясь в составные части ядра Arm Neoverse V3 (Armv9.2), отметим, что IP включает блок предсказания ветвлений (Branch Predictor), который содержит префетчер инструкций и продвинутые предсказатели ветвлений. Выборка инструкций (Instruction Fetch) — это высокопропускная выборка с I-Cache объёмом 64 КБ; очередь декодирования (Decode Queue) — 10-канальная (фронтенд); декодирование (Decode) — энергооптимизированная 10-канальная система; блок переименования/диспетчеризации (Rename/Dispatch) предлагает окно внеочередного выполнения (OoO) размером 384+ при 10-канальной диспетчеризации и 8-канальном завершении.
Конвейеры загрузки-сохранения (Load-Store Pipelines) включают 1LS, 2LD, 1ST/такт и D-Cache объёмом 64 КБ. Целочисленные конвейеры (Integer Pipelines) содержат 8 ALU и 3 блока ветвлений, а блок аппаратного префетчинга (HW Prefetch Unit) оснащён продвинутыми префетчерами данных. Конвейеры Advanced SIMD включают двойной 128-битный тракт с низкой задержкой, а кэш L2 имеет задержку 10 тактов «load-to-use», пропускную способность 128 Б/такт, 2 МБ приватного кэша L2 на ядро с ECC/Parity для всех ядер и L2 RAM.
Подводя итог: ядро Arm Neoverse V3 — это 10-канальная машина с большим окном внеочередного выполнения, что даёт высокий IPC, префетчинг и предсказание ветвлений третьего поколения, а также быстрый кэш L2, расположенный рядом с ядром.
Чиплетный комплекс
Теперь: Arm AGI CPU — это не монолитный кристалл, а два чиплета. Каждый чиплет имеет до 70 ядер (что должно дать 140 ядер на CPU, но из-за выхода годных четыре ядра отключаются), 64 КБ I-Cache и D-Cache, приватный кэш L2 по 2 МБ на ядро или 140 МБ на чиплет, когерентный интерконнект CMN, интегрированную общую кэш-память системного уровня 1 МБ/ядро, а также подсистемы безопасности (RoT) и управления.
Эти чиплеты подключены к подсистеме памяти DDR5, подсистеме ввода-вывода PCIe Gen6 + CXL, подсистеме «кристалл-кристалл» с UCIe PHY, контроллером UCIe и когерентной mesh-сетью с поддержкой нескольких сокетов.
Если посмотреть на план размещения, ядра Arm AGI CPU (или комплекс ядер) расположены в центре каждого чиплета, интерфейсы D2D — справа, PCIe — слева, а контроллеры памяти — сверху/снизу.
Стоечные решения масштаба rack-scale
Arm AGI CPU будут представлены в волне эталонных и партнёрских решений. Сама Arm предлагает эталонные серверы 1U с двумя узлами и 2U2P, а такие партнёры, как Supermicro, ASRock, Lenovo и другие, предлагают собственные конструкции лотков. Также существуют стоечные системы от Supermicro — в формате 2U 4-Node и 1U 4-Node с поддержкой жидкостного охлаждения.
Такие стойки вмещают до 8 160 ядер CPU, 30 серверов 1U и имеют проектную мощность 36 кВт. Arm утверждает, что её решение обеспечивает более чем двукратную производительность на стойку по сравнению с решением на базе x86 при той же мощности 36 кВт.
Компания повысила прогноз спроса со стороны клиентов до $2 миллиардов с ранее заявленного $1 миллиарда на 2027–2028 годы, поскольку сегмент Agentic AI продолжает набирать обороты.
Как было сказано, это касается только AGI CPU, а Arm продолжает обеспечивать вычислительные платформы других вендоров своей архитектурой Armv9. Помимо самого AGI, тот же фундамент Armv9 питает растущую экосистему: NVIDIA Vera и Rosa, Microsoft Azure Cobalt, Google Axion, AWS Graviton, Fujitsu Monaka — всё это гарантирует, что архитектура Arm остаётся центральной для следующего поколения AI-оптимизированных вычислений.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba
