Искусственный интеллект традиционно полагался на массивные облачные центры обработки данных для обработки запросов и запуска сложных моделей. Однако Perplexity считает, что будущие системы ИИ могут в большей степени зависеть от локального оборудования. По недавним замечаниям генерального директора Perplexity Аравинда Шриниваса, усовершенствования в области вычислений для ИИ в конечном итоге позволят ноутбукам и другим персональным устройствам обрабатывать большую долю задач по выводу (inference) ИИ.
Это видение отражает растущую отраслевую тенденцию к ИИ на устройстве (on-device AI), когда искусственный интеллект работает непосредственно на оборудовании пользователя, а не полностью полагается на удаленные серверы.
По мере роста внедрения ИИ растут и затраты, связанные с облачной инфраструктурой. Запуск больших моделей ИИ требует огромных вычислительных ресурсов, что делает эффективность главным приоритетом.
Подход Perplexity может предложить несколько преимуществ:
- Более быстрый вывод ИИ с уменьшенной задержкой
- Улучшенная конфиденциальность за счет сохранения большего количества данных на устройстве
- Снижение расходов на облачные вычисления
- Лучшая производительность при ограниченном доступе в Интернет
Аравинд Шринивас предположил, что будущие системы ИИ могут сочетать локальную обработку с облачными ресурсами, создавая гибридную модель, которая уравновешивает производительность и эффективность.
ИИ на устройстве позволяет компьютерам, смартфонам и ПК с поддержкой ИИ обрабатывать задачи локально. Вместо отправки каждого запроса в удаленный центр обработки данных, часть вывода ИИ происходит непосредственно на устройстве.
Этот сдвиг становится возможным благодаря специализированному оборудованию, такому как нейронные процессоры (NPU) и все более мощным процессорам.
Ключевые примеры ИИ на устройстве включают:
- Голосовые помощники, обрабатывающие команды локально
- Инструменты для редактирования изображений с помощью ИИ, работающие на ноутбуках
- Языковые модели, функционирующие без постоянного доступа к облаку
- Функции перевода и транскрипции в реальном времени
По данным CNET, Perplexity рассматривает эту тенденцию как важную часть будущей эволюции ИИ.
Perplexity не одинок в стремлении к этому направлению. Несколько крупных технологических компаний вкладывают значительные средства в вычислительное оборудование для ИИ.
Reuters недавно сообщило о продолжающемся продвижении NVIDIA в сторону чипов, ориентированных на ИИ и предназначенных для ПК и периферийных устройств. Microsoft также подчеркнула компьютеры с поддержкой ИИ, которые могут обрабатывать больше рабочих нагрузок локально.
Эти разработки свидетельствуют о том, что будущее ИИ, вероятно, будет включать сочетание облачной инфраструктуры и мощного потребительского оборудования.
Тем временем Perplexity продолжает расширять свою экосистему ИИ такими продуктами, как браузер Comet, что отражает более широкий интерес компании к возможностям, предоставляемым ИИ.
Облачная инфраструктура вряд ли исчезнет в ближайшее время. Крупномасштабное обучение моделей и сложные рабочие нагрузки ИИ по-прежнему будут требовать мощных центров обработки данных. Однако роль ИИ на устройстве, как ожидается, возрастет по мере того, как оборудование будет становиться более производительным.
Как отмечает CNET и подтверждают более широкие отраслевые разработки, о которых сообщает Reuters, видение Perplexity сосредоточено на приближении ИИ к пользователям. Если вычисления для ИИ продолжат развиваться нынешними темпами, будущие ноутбуки смогут обрабатывать гораздо больше задач вывода, чем сегодня, превращая персональные устройства в мощные центры искусственного интеллекта.
Опубликовано на Itech Post
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Mae Cornes
