Нет сомнений, что A20 Pro — настоящее чудо среди мобильных чипсетов. Последние данные о его одноядерной и многоядерной производительности укрепили его репутацию в отрасли. Однако мы продолжаем узнавать о впечатляющих возможностях этого SoC, и последняя новость заключается в том, что его двухъядерный 16-ядерный Neural Engine, как утверждается, обладает более высокой пиковой вычислительной мощностью, чем его 7-ядерный GPU, при условии, что соответствующие задачи специально оптимизированы для NPU.
Запуск небольших локальных ИИ-моделей с 3 млрд параметров и обработка запросов — задачи для двухъядерного 16-ядерного Neural Engine чипа A20 Pro, обеспечивающие огромный прирост пиковой производительности
Макс Вайнбах в X поделился интересным фактом как о A20 Pro, так и о M6: прирост производительности, обеспечиваемый двухъядерным 16-ядерным Neural Engine, может превосходить показатели GPU, если задачи специально используют его возможности. Естественно, графически интенсивные нагрузки или определенные анимации будут выполняться крайне медленно, если их придется обрабатывать Neural Engine.
Вместо этого небольшие ИИ-модели с 3 миллиардами параметров или обработка запросов легко справляются с новым Neural Engine, что освобождает значительные ресурсы для CPU и GPU. Кроме того, обработка запросов на этапе предварительного заполнения для квантованных ИИ-моделей напрямую сопоставляется с конвейерами Neural Engine, что делает ее еще одной задачей, специально разработанной для этого компонента.
Локальное распознавание речи или улучшение звука в реальном времени также идеально подходят для NPU, как и функции обработки изображений, такие как оценка глубины сцены камерой в реальном времени, размытие фона, распознавание текста и сегментация изображений. Однако, как известно, различные задачи будут перенаправляться на CPU и GPU, например, операции с неквантованными числами с плавающей запятой FP32 или 64-битными числами, или тензоры, динамически меняющие свою форму.
Возвращаясь к локальному ИИ, генерация LLM с одним токеном может страдать от накладных расходов на отправку данных в Neural Engine, что делает CPU или GPU более подходящими для этой рабочей нагрузки. Первые поставки iPhone 18 Pro, iPhone 18 Pro Max и iPhone Duo еще не начались, но со временем мы столкнемся с задачами, специально разработанными для двухъядерного 16-ядерного Neural Engine, которые наглядно продемонстрируют возможности этого обновления. Следите за новостями.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Omar Sohail
