Вчера мы сообщали о предполагаемых спецификациях настольных процессоров Intel следующего поколения Nova Lake-S, которые, по слухам, будут оснащены огромным объемом кэш-памяти, даже большим, чем у процессоров AMD Ryzen X3D.
Мы уже знаем, что AMD удается опережать процессоры Intel в играх благодаря этому массивному уровню кэш-памяти третьего уровня (L3) (LLC), и поэтому мы ожидаем, что Intel превзойдет текущие модели AMD 9000X3D.
Однако, хотя AMD всегда подчеркивала преимущества, которые 3D V-Cache дает в плане игр, компания никогда не демонстрировала этого в конкретных рабочих нагрузках, связанных с ИИ. Теперь новое тестирование выявило потенциал процессоров с большим кэшем: модели AMD 9000X3D показывают огромный прирост производительности по сравнению с их аналогами без X3D.
Производительность была оценена корейским сайтом GiggleHD с использованием бенчмарка X3D Rag для тестирования процессоров. В оценку были включены как модели AMD, так и Intel, а тестирование проводилось в Windows 11 25H2. Следовательно, производительность в Linux может отличаться.
Для тех, кто интересуется, x3d-rag-benchmark измеряет, как кэш может улучшить производительность Retrieval-Augmented Generation (RAG) за счет использования большого кэша L3, когда он доступен. В конвейерах RAG запросы встраиваются на GPU, затем передаются на ЦП для векторного поиска, после чего GPU генерирует окончательный ответ. Поскольку векторный поиск включает случайные шаблоны доступа к памяти, размер кэша становится очень важным, подобно тому, как кэш DRAM улучшает производительность случайного доступа на SSD.
По сути, большой кэш L3 в процессорах X3D снижает зависимость от обращений к ОЗУ, которые, как правило, намного медленнее, чем кэш ЦП, тем самым увеличивая частоту попаданий и снижая задержку. Это приводит к более быстрой пропускной способности запросов, сокращению времени до первого токена (TTFT) и лучшей обработке одновременных поисков. Таким образом, как и в игровых нагрузках, преимущество кэша обеспечивает измеримый выигрыш и для рабочих нагрузок RAG.
Сначала мы рассмотрим пакетный поиск, измеряемый в запросах в секунду (QPS). Восьмиядерные 3D-модели превосходят 16-ядерный 9950X3D, что указывает на то, что кэш и тактовые частоты с ускорением здесь, вероятно, имеют большее значение. Это также показывают модели Intel Core Ultra, поскольку более высокочастотный 285K опережает 270K Plus.
Однако при построении индекса, измеряемом в векторах в секунду, мы видим, что процессоры X3D значительно отстают как от не-3D моделей AMD, так и от процессоров Intel. Таким образом, большой L3 по-прежнему явно влияет на результаты теста, но в данном случае отрицательно для процессоров Ryzen. Это, безусловно, неожиданный результат, даже со стороны Intel, поскольку 270K Plus легко обходит 285K.
Наконец, мы имеем пропускную способность в запросах в секунду и TTFT в секундах (следовательно, для TTFT более короткий столбец означает лучшую производительность). Восьмиядерные модели X3D снова показывают очень хорошие результаты. Похоже, что конструкция с одним CCD дает явное преимущество, а двухчиплетный 9950X3D, вероятно, испытывает проблемы с задержками между CCD, поскольку только один из его CCD имеет 3D-кэш.
Тест также предполагает, что новый 9950X3D2 покажет себя намного лучше, чем 9950X3D, поскольку оба CCD в первом оснащены 3D V-cache. Предстоящие двухчиплетные модели Intel Nova Lake-S могут продемонстрировать еще более высокую производительность.
Источник и изображения: GiggleHD
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Sayan Sen
