Intel и AMD объединяют свои оптимизации для CPU в PyTorch в единую библиотеку, предлагая настройку как для чипов AMD, так и для Intel через библиотеку oneDNN. AMD поддерживала форк oneDNN под названием ZenDNN, который теперь переходит в открытую библиотеку oneDNN, публикуемую UXL Foundation и разрабатываемую Intel. AMD также объявила, что присоединяется к UXL Foundation в качестве «руководящего члена», что «влияет на будущее UXL Foundation» в обмен на взносв размере 20 000 долларов в год.
AMD заявляет, что шаг по объединению этих усилий под эгидой oneDNN был рекомендован x86 Ecosystem Advisory Group (EAG), совместной инициативой, существующей в основном между Intel и AMD и созданной в 2024 году. Ранее две компании уже сотрудничали через EAG, например, в рамках расширений ACE для x86, о которых мы узнали в начале этого года.
Бэкенд oneDNN используется для инференса на CPU и создан для ускорения этой нагрузки на новейших чипах Intel (а теперь и AMD) в таких фреймворках, как PyTorch. Когда oneDNN был добавлен в PyTorch в качестве бэкенда в конце 2023 года, он показал улучшение в 1,24 раза для типа данных Float32 и в 2,21 раза для типа данных BFloat16.
Согласно GitHub oneDNN, библиотека «обнаруживает аппаратные возможности во время выполнения», чтобы генерировать оптимизированные ядра для платформы, а также предоставляет типы данных с низкой точностью. Она также включает оптимизированные инструкции для распространенных операций ИИ и машинного обучения, таких как умножение матриц и свертка.
Для разработчиков этот шаг упрощает работу с PyTorch в разных системах, гарантируя, что единый бэкенд обеспечивает правильные оптимизации для любого используемого оборудования. Хотя новость здесь сосредоточена на x86, oneDNN является кроссплатформенной библиотекой, которая также работает на архитектурах Arm и RISC-V.
Intel изначально разработала oneDNN, построенную на основе предыдущих библиотек глубокого обучения, прежде чем она была включена в UXL Foundation. Intel была среди основателей UXL Foundation, наряду с Arm, Qualcomm, Google Cloud и другими.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jake Roach
