Еще совсем недавно центральные процессоры (CPU) были своего рода аутсайдерами в мире полупроводников, оставаясь на периферии внимания, в то время как графические процессоры (GPU) занимали лидирующие позиции среди вычислительных чипов. Однако с появлением агентного ИИ и сопутствующей потребности в оркестрации эта парадигма начала меняться, набрав феноменальный оборот с запуском персональных ИИ-агентов, таких как Muse от *Meta и Instinct от Spear Street Technology.
Хотя некоторые могут утверждать, что грядущий спрос со стороны персональных ИИ-агентов все еще слишком неопределен, чтобы оказать заметное влияние на отрасль, последний отчет Trend Force опровергает этот тезис, показывая, что сроки поставки CPU почти удвоились.
Trend Force показывает, что сроки поставки CPU увеличились до 25-30 недель с обычных 16-20 недель, в то время как продолжаются дебаты о масштабах грядущего спроса на CPU со стороны персональных ИИ-агентов, таких как Muse
Trend Force только что сообщил о значительном сдвиге в своем еженедельном обзоре, показав, что сроки поставки CPU увеличились до 25-30 недель с обычных 16-20 недель на сбалансированном рынке. Это укрепляет бычий прогноз для CPU, даже несмотря на то, что феномен персональных ИИ-агентов все еще находится в зачаточном состоянии.
Для тех, кто, возможно, не знает, Muse от *Meta — это персональный ИИ-агент, который может выполнять многошаговые задачи и достигать конкретных результатов от вашего имени, включая открытие облачного браузера, навигацию по веб-сайтам так же, как это делают люди, и управление задачами в фоновом режиме даже после закрытия приложения.
Чтобы устранить проблемы с конфиденциальностью, Muse работает внутри выделенного и изолированного облачного компьютера — виртуальной машины (VM), которая имеет собственный браузер для безопасного хранения ваших данных и учетных данных. Второй уровень защиты, называемый Sentinel, постоянно отслеживает среду и гарантирует, что агент не завершит транзакции без одобрения Sentinel и вашего явного подтверждения.
Как мы уже неоднократно отмечали, *Meta пообещала каждому пользователю Muse выделенную виртуальную машину, с 2 vCPU, 8 ГБ ОЗУ и 100 ГБ SSD. Хотя первоначальные грубые расчеты предполагали, что *Meta Muse может стимулировать спрос на миллионы дополнительных CPU по мере роста числа ежедневных активных пользователей (DAU) агента Muse, мы недавно столкнулись с множеством довольно точных анализов, которые в совокупности призывают к гораздо более тонкому подходу к загадке спроса на CPU.
Фреда Дуань недавно написала проницательный пост, отходя от любительского взгляда на то, что *Meta должна выделять 2 vCPU и 8 ГБ ОЗУ для каждого пользователя Muse. В действительности, песочницы/виртуальные машины ИИ-агентов часто переподписываются, особенно потому, что активная виртуальная машина проводит большую часть времени в ожидании ответов модели, ввода пользователя, результатов инструментов, сети и так далее. Кроме того, пока виртуальная машина активна и удерживает память/состояние, ее фактическая загрузка CPU часто близка к нулю. Поэтому крайне важно определить следующее:
- Сколько активных виртуальных машин должно быть готово к работе в любой момент времени
- Физические ядра CPU, фактически необходимые после учета переподписки
Предположим, 100 миллионов DAU для *Meta Muse, и что типичный агент работает в среднем 2 часа в день. Этот сценарий требует 8,33 миллиона виртуальных машин [100 миллионов x (2/24)], которые должны быть доступны для обслуживания средней рабочей нагрузки. Конечно, эта 2-часовая рабочая нагрузка не распределена равномерно и сконцентрирована в пиковые часы. Дуань использует коэффициент пиковой нагрузки к средней 2,5x, чтобы получить 20,8 миллиона виртуальных машин, которые должны быть доступны в любое время. Затем добавьте около 20% резервной мощности для пиков, сбоев и роста, и окончательное число составит 25 миллионов активных виртуальных машин для обслуживания 100 миллионов DAU Muse. Конечно, в сценарии интенсивного использования, когда типичный агент Muse работает 4 часа в день, спрос может возрасти до 50 миллионов активных виртуальных машин [100 миллионов x (4/24) x 2,5x коэффициент пиковой нагрузки к средней x 1,2x резервная мощность].
Теперь ответим на второй важный вопрос: сколько физических ядер CPU требуется на одну виртуальную машину? Чтобы получить предполагаемый ответ, Дуань в значительной степени опирается на платформу песочницы агентов DSec от DeepSeek, которая включает:
- Около 160 узлов
- Около 30 000 физических ядер CPU
- Пиковая одновременность более 380 000 песочниц
- Стабильная плотность около 800 микровиртуальных машин на узел
DeepSeek выделяет около 188 физических ядер CPU на узел, что затем эквивалентно 0,23 физического ядра на активную микровиртуальную машину (188/800 = 0,235). Конечно, операции DeepSeek чрезвычайно эффективны, и *Meta вряд ли сможет сравниться с бережливостью китайской ИИ-лаборатории. Следовательно, Дуань расширяет диапазон до 0,3–0,75 физических ядер на активную виртуальную машину и выбирает 0,5 в качестве базового случая.
Подводя итог, при нашем заявленном базовом случае в 25 миллионов активных виртуальных машин *Meta может потребоваться всего 12,5 миллионов ядер CPU, особенно учитывая, что DeepSeek отметил в своей статье DSec, что около 90% его песочниц в среднем используют 5% или менее своих запрошенных ресурсов CPU, потому что агенты проводят подавляющее большинство своего времени в ожидании модели.
Конечно, здесь есть важные нюансы. Это предположение о 0,5 физических ядрах на виртуальную машину не является статичным и в реальности должно меняться в зависимости от скорости инференса. Хотя на первый взгляд может показаться, что более быстрый инференс должен еще больше сократить количество физических ядер, выделяемых на каждую виртуальную машину, нельзя игнорировать эффект парадокса Джевонса, который гласит, что по мере того, как технология становится более эффективной, ее спрос растет.
Таким образом, хотя существует множество переменных в предположениях, касающихся спроса на CPU, стимулируемого персональными ИИ-агентами, такими как Muse от *Meta, нет разногласий относительно основной тенденции, которая является чрезвычайно и структурно позитивной для производителей CPU. И последний отчет Trend Force добавляет еще одно косвенное свидетельство в пользу этой основной гипотезы.
*Facebook, *Instagram и *WhatsApp принадлежат компании *Meta Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Rohail Saleem
