Apple ищет способы запуска сверхмощных ИИ-моделей прямо на iPhone

Ai-устройства Iphone Qwen-3.6 Prismml Afm-3 приватность macrumors.com

По данным The Information, Apple обсуждала с PrismML возможность запуска на iPhone гораздо больших AI-моделей напрямую на устройстве. В докладе сказано, что PrismML смог сократить Alibaba Qwen 3.6 до полной работы на iPhone 17 Pro; 27 млрд параметров против 20 млрд у AFM 3 Core Advanced.

В докладе говорится, что PrismML сумела уменьшить модель Qwen 3.6 от Alibaba с открытым исходным кодом до такой степени, чтобы она полностью работала на iPhone 17 Pro. Эта модель насчитывает 27 миллиардов параметров, что больше локальной модели AFM 3 Core Advanced от Apple с 20 миллиардов параметров. Эта модель Apple обеспечивает улучшения iOS 27, такие как более выразительные голоса Siri AI и улучшенная системная диктовка на моделях iPhone 17 Pro и iPhone Air.

В отличие от AFM 3 Core Advanced, все параметры Qwen 3.6 могут быть активны одновременно.

«Одна новая локальная модель Apple имеет 20 миллиардов параметров, но использует так называемую разреженную архитектуру, в которой активны только от 1 миллиарда до 4 миллиардов параметров одновременно», — говорится в докладе, с отсылкой на AFM 3 Core Advanced. «В случае локальной модели PrismML все 27 миллиардов параметров активны одновременно».

Более крупные модели, запускаемые напрямую на iPhone, позволили бы запускать больше функций Apple Intelligence непосредственно на устройстве, а не на серверах Apple Private Cloud Compute, что могло бы снизить затраты Apple и дополнительно повысить конфиденциальность пользователей.

Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.

Похожие новости: