Процессор NVIDIA Vera продолжает демонстрировать высокую производительность на ядро в задачах Agentic AI, что подтверждается тестами Daytona.
NVIDIA Vera превосходит AMD EPYC в новых тестах Agentic AI: процессор ARM обеспечивает 8-кратное увеличение производительности по сравнению с x86
Daytona — это специализированная среда выполнения для генерации кода с помощью ИИ и рабочих процессов агентов. Команда делится своими последними результатами тестов, в которых процессор NVIDIA Vera сравнивается с чипами AMD EPYC «Zen 5», чтобы продемонстрировать преимущества архитектуры Vera для изолированных сред агентов. Результаты оказались весьма впечатляющими.
Как мы знаем, рабочие процессы Agentic AI требуют мощной процессорной инфраструктуры. В эпоху Agentic AI наблюдается значительный переход от графических процессоров к центральным процессорам. Поскольку рабочие нагрузки, охватывающие файловые системы, зависимости, оболочки и тесты, становятся центральными в новом рынке ИИ, процессоры должны быть быстрыми, эффективными и поддерживать такие типы рабочих процессов.
Процессор NVIDIA Vera разработан с учетом приоритета ИИ, что подтверждается результатами тестов. Команда Daytona измеряла производительность чипов в рабочих процессах агентов, используя одну и ту же задачу кодирования для «больших партий» изолированных сред Daytona. Важно, чтобы эти процессоры не только поддерживали большое количество изолированных сред, но и быстро их запускали.
В ходе тестов процессор NVIDIA Vera достиг пиковой пропускной способности в 13,3 выполненных задания агента в секунду. Что еще более важно, он смог запустить 1000 изолированных сред за 10 секунд (10,8 с) и 2000 изолированных сред за 27 секунд. Для сравнения, чип AMD EPYC «Zen 5» смог запустить 1000 изолированных сред за 88 секунд. Это в 8 раз быстрее по времени запуска изолированных сред.
Теперь о том, где проявляется более высокая производительность Vera на ядро. Базовый чип AMD EPYC Zen 5, использованный в сравнении, — EPYC 9755, который запустил 1000 изолированных сред за 88,4 секунды. Более быстрый чип EPYC 9575F с более высокой частотой смог сделать то же самое за 32,3 секунды.
AMD удалось добиться более высокой производительности на чипе с более высокой тактовой частотой, но Vera все равно лидировала благодаря своей производительности на ядро, превосходящей архитектуру Zen 5. Процессор Vera способен запустить 2000 изолированных сред быстрее, чем Zen 5 запускает 1000 изолированных сред, что является огромным ускорением.
AMD с тех пор выпустила свои процессоры Zen 6 EPYC, которые должны обеспечить гораздо лучшие результаты в тех же рабочих процессах Agentic AI, поскольку это одна из их сильных сторон. Однако Vera, безусловно, является большим шагом вперед для NVIDIA в области Agentic AI по сравнению с ее процессорами Grace, обеспечивая производительность выше, чем у Zen 5, и конкурентоспособность против чипов Zen 6.
- EPYC 9575F: уровень около 8 заданий агента/сек
- EPYC 9755: уровень около 11 заданий агента/сек
- NVIDIA Vera: достигает 13,3 задания агента/сек и держится около 13 при 2000 изолированных средах
Еще один интересный показатель, которым поделилась Daytona, — это пропускная способность на машину, которая охватывает количество машин, необходимых для поддержки этих рабочих нагрузок. Для выполнения 1000 заданий в секунду платформе NVIDIA Vera потребуется на 15% меньше машин, чем EPYC 9755, и на 38% меньше машин, чем EPYC 9575F.
Это снижает общую стоимость владения (TCO), поскольку Vera позволяет компаниям делать больше с меньшим количеством серверов, снижая энергопотребление, охлаждение и затраты на создание крупномасштабных ИИ-фабрик. Или же можно достичь более высокой пропускной способности при тех же затратах на инфраструктуру, что и у конкурентов.
«Меня интересует не пиковая производительность. А то, что происходит, когда машина заполнена. Vera продолжает выполнять рабочие нагрузки агентов почти с той же скоростью вплоть до 2000 изолированных сред. Она немного замедляется, но остается стабильной, а не разваливается. Тысячи агентов на одной машине, и Vera поддерживает их работоспособность. Вот что важно».
— Ведран Юкич, соучредитель и технический директор
Агенты превращают инфраструктуру в проблему плотности: каждому нужен свой файловый менеджер, инструменты и среда, и эти среды должны создаваться тысячами и оставаться продуктивными на общем оборудовании.
По этому показателю NVIDIA Vera выделилась. Она запустила 1000 изолированных сред Daytona за 10,8 секунды и 2000 за 27,4 секунды, а затем поддерживала около 13 выполненных заданий агента в секунду даже при 2000 одновременных изолированных средах — примерно на 15% меньше машин, чем EPYC 9755, и примерно на 38% меньше, чем 9575F, для того же объема работы.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Hassan Mujtaba
