Modal переходит на процессоры Nvidia Vera после внутренних тестов, показавших удвоение производительности по сравнению с чипами Intel и AMD

Nvidia Cpu ии Modal серверы Arm tomshardware.com

Nvidia Vera: удвоение производительности ИИ-агентов по сравнению с Intel и AMD. Узнайте, как новые CPU Nvidia меняют рынок облачных вычислений для ИИ.

Nvidia заработала миллиарды на продаже ИИ-ускорителей, но с появлением агентного ИИ центральные процессоры (CPU) будут играть значительно более важную роль, чем раньше, что открывает новые возможности для компании. Как сообщает Reuters, Nvidia заключила крупную сделку с поставщиком облачной инфраструктуры для ИИ Modal, который выбрал для своих нужд процессоры Nvidia Vera. По данным Modal, предварительные оценки показали, что Vera может обеспечить удвоенную пропускную способность по сравнению с существующими процессорами AMD и Intel, хотя компания не намерена отказываться от процессоров своих текущих поставщиков.
Modal предоставляет облачную инфраструктуру, которая позволяет разработчикам ИИ развертывать ИИ-агентов, способных автономно выполнять сложные операции в течение длительного времени. Такие рабочие нагрузки требуют значительных ресурсов CPU для выполнения программного обеспечения, обработки данных и других задач, которые не могут быть эффективно выполнены GPU. В настоящее время Modal полагается исключительно на процессоры AMD и Intel для этих операций, но ее тесты показывают, что новые процессоры Nvidia Vera могут значительно повысить производительность в ее специфических рабочих нагрузках. Конечно, поскольку Vera основана на архитектуре набора команд Arm, решение Modal использовать Vera потребует существенных модификаций ее программного обеспечения. Тем не менее, Modal считает, что потенциальное повышение производительности оправдывает дополнительные инженерные усилия.
Заявленное удвоение пропускной способности особенно интересно, поскольку рабочие нагрузки агентного ИИ могут включать множество независимых задач, конкурирующих за ядра CPU, кэш-память и пропускную способность памяти. Однако Modal не раскрыла подробные конфигурации тестов, которые она использовала, конкретные модели процессоров AMD и Intel или показатели производительности на ватт. Следовательно, остается неясным, обусловлено ли преимущество Vera преимуществами ее процессорных ядер Olympus на базе Arm v9.2, способных декодировать и выполнять до 10 инструкций за цикл, ее подсистемы памяти с пропускной способностью 1,2 ТБ/с или другими архитектурными особенностями. Также следует отметить, что тесты сравнивали Vera с доступными в настоящее время процессорами AMD и Intel, а не с их будущими поколениями, которые будут конкурировать с Vera в ближайшие годы.
Поскольку Modal не может мгновенно портировать все свое программное обеспечение на Arm ISA, компания продолжит использовать x86-процессоры от AMD и Intel, по словам генерального директора Modal Эрика Бернхардссона. Вместо того чтобы придерживаться одной ISA для всего, Modal намерена использовать гетерогенный парк серверов и выбирать наиболее подходящие процессоры для каждой рабочей нагрузки. Естественно, компания намерена оценить будущие процессоры AMD и Intel, как только они станут доступны, чтобы сделать свой выбор в будущем.
Для Nvidia это соглашение представляет собой важный шаг на пути к тому, чтобы Vera стала самостоятельным серверным процессором, занимающим значительную долю рынка серверов. Компания ожидает, что продажи Vera принесут не менее $20 миллиардов в текущем финансовом году и оценивает потенциальный общий объем рынка для этих CPU примерно в 200 миллиардов долларов. Компания планирует продать не менее четырех миллионов процессоров Vera в 2026 финансовом году.
Это объявление сделано вскоре после того, как Modal привлекла 750 миллионов долларов финансирования под руководством Accel, оценив компанию в 15,75 миллиарда долларов. Modal ожидает, что ее годовой доход достигнет 1 миллиарда долларов в течение следующего года. Потребление услуг компании увеличилось в 3 раза за последние 12 месяцев, в то время как выручка выросла более чем в 15 раз по сравнению с предыдущим годом, сообщает Reuters .

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

В тренде:


Похожие новости: