Теперь Perplexity пытается ворваться в мир локального ИИ

Perplexity локальный Ai Nvidia Portable Computer агенты Dgx Spark theregister.com

Perplexity запускает локального AI-агента Portable Computer на Nvidia DGX Spark. Узнайте, как это снижает облачные расходы и решает проблемы конфиденциальности, пока Nvidia обсуждает инвестиции в $30 млрд.

Компания Perplexity, занимающаяся искусственным интеллектом, уже успела попробовать свои силы в поисковых сервисах, рекламе, персональных ассистентах, браузерах и облачной платформе для агентов – и теперь она выходит на рынок локальных AI-сервисов.

Разработчик, уже создавший гибридный оркестратор вывода для агентов, который соединяет облачный и локальный вывод, перешел к созданию локального агента под названием Portable Computer. Это контрастирует с его облачной платформой для агентов, Computer.

Portable Computer состоит из обвязки агента, оркестратора и локальных AI-моделей, работающих на рабочей станции Nvidia DGX Spark, с возможностью подключения к облачному выводу, если того требует ситуация.

При чем тут Nvidia DGX Spark? Ну, помимо того, что DGX Spark – это мощный AI-комплект, Nvidia, как сообщается, обдумывает инвестиции в Perplexity на сумму 30 миллиардов долларов. Возможно, именно это имеет отношение к шести упоминаниям бренда в одном анонсе.

Perplexity представляет свой Portable Computer как способ контролировать расходы на AI – вопрос, который вызывает интерес в последние несколько месяцев, поскольку пользователи обнаруживают, что локально запускаемые модели с открытыми весами могут помочь снизить растущие счета за облачные услуги.

“Прогресс наиболее заметен в очень маленьких и эффективных моделях, таких как Nvidia Nemotron 3.5 Lightning (30B общих параметров), Qwen 3.6 (35B) и Qwen 3.8 (27B)”, – заявила компания в своем посте, уделяя модели Nvidia несколько больше внимания, чем другие энтузиасты локального AI. “Эти маленькие модели работают выше своего веса и теперь способны выполнять сложные агентные рабочие процессы”.

На каком оборудовании можно запускать такие модели? Возможно, это просто совпадение, но Perplexity предлагает Nvidia DGX Spark.

“Этот локально-ориентированный подход позволяет значительно экономить средства, поскольку локальный вывод позволяет избежать оплаты за каждый токен через API”, – заявили в Perplexity. “Он также естественным образом решает проблемы конфиденциальности и интеллектуальной собственности: приватные токены никогда не нужно передавать на удаленные кластеры, и они остаются в безопасности в пределах локального устройства”.

Текущая политика конфиденциальности Perplexity не упоминает Portable Computer напрямую, но показывает, что Perplexity собирает довольно много данных через свои другие сервисы.

Большая часть предложения Perplexity потенциальным клиентам включает публикацию результатов тестов, сравнивающих Portable Computer с двумя другими обвязками агентов, Pi и Hermes. Компания сообщает: “По всем тестам Computer сравнялся или превзошел Hermes и Pi по точности при работе Qwen 3.8 27B на NVIDIA DGX Spark”.

И Portable Computer, как утверждает Perplexity, оказался самым быстрым на BrowseComp и ParseBench-100 и использовал наименьшее количество токенов во всех трех тестах.

Компания заключает, что достойная модель с открытыми весами и мощное локальное оборудование вместе с подходящей обвязкой “могут справляться с реальной интеллектуальной работой при почти нулевой стоимости вывода, не требуя передачи конфиденциальных данных с устройства”.

И если Nvidia действительно инвестирует 30 миллиардов долларов, у Perplexity будет достаточно времени, чтобы изучить, сколько она может взимать на рынке, где такие обвязки, как Pi и Hermes, бесплатны. ®

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: