Прошло несколько лет с момента выпуска USB4, и со временем Microsoft постепенно добавляла поддержку этой функции в Windows 11. Сначала появился специальный раздел для нее в настройках, а затем были введены более строгие правила для повышения согласованности реализации функции. Это было сделано в прошлом году, а теперь компания внедряет еще одну важную функцию USB4 в Windows, которая понравится опытным пользователям, особенно тем, кто работает с ИИ.
Технологический гигант анонсирует предварительную версию для разработчиков RDMA over USB4, которая позволит объединять несколько ПК с поддержкой USB4 для запуска локальных моделей ИИ, слишком больших для одной системы, путем объединения их памяти и вычислительной мощности GPU. Для их соединения потребуются только кабели USB4. По сути, Microsoft развивает такие функции, как Unified Memory, анонсированная ранее в этом году.
RDMA (Remote Direct Memory Access), как следует из названия, позволит ПК с Windows напрямую получать доступ к памяти других устройств удаленно, минуя ЦП. Изображения ниже демонстрируют это:


Если вы не знали, DMA используется в таких технологиях хранения данных, как HMB (host memory buffer) и DirectStorage, и, минуя ЦП, устраняет основное узкое место. Кроме того, поскольку вам в основном нужны кабели USB4, это также устраняет необходимость в дорогостоящем сетевом оборудовании, что является огромным плюсом.
Для этого Microsoft будет использовать NetworkDirect — интерфейс поставщика услуг (SPI) в пользовательском режиме для RDMA, предназначенный для обеспечения высокоскоростной передачи данных с низкой задержкой в Windows путем обхода ядра. Windows поддерживает RDMA уже много лет через NetworkDirect, что упрощает реализацию, поскольку поддержка уже существует.
И первые показатели производительности весьма впечатляют. Microsoft заявляет, что в ее измерениях между двумя ПК RDMA over USB4 сократил время приема-передачи для небольших сообщений примерно до 28–50 микросекунд, что примерно в четыре раза меньше, чем у Ethernet через то же соединение USB4. Компания также отмечает, что задержка остается столь же низкой как при соединениях 40 Гбит/с, так и при 80 Гбит/с, хотя последнее, естественно, обеспечивает удвоенную пропускную способность.

AMD протестировала кластер из трех мини-ПК на базе своих процессоров Ryzen AI Max, каждый из которых оснащен графикой Radeon 8060S и 128 ГБ унифицированной памяти. Подключенные через соединения USB4 40 Гбит/с, системы смогли запускать Qwen3-235B-A22B, модель mixture-of-experts с 235 миллиардами параметров, со скоростью около 18,5 токенов в секунду при 4-битной квантизации. Отдельно AMD измерила скорость декодирования 21,98 токенов в секунду и обработку запросов 117,98 токенов в секунду с помощью своей установки.


Тем временем Intel протестировала GPT-OSS-120B на трех и четырех ПК на базе своих процессоров Core Ultra Series 3, каждый с 64 ГБ памяти. Конфигурация из трех ПК обеспечила около 49 токенов в секунду, а добавление четвертого ПК увеличило этот показатель примерно до 54 токенов в секунду. Это весьма впечатляет, учитывая, что модель с 120 миллиардами параметров не помещается в память одной 64-гигабайтной системы.

Чтобы получить максимальную отдачу от такого решения, Microsoft настоятельно рекомендует использовать топологию «полная сетка» (full-mesh) вместо последовательного соединения систем (daisy-chaining), поскольку последнее, как утверждается, значительно снижает производительность.
Что касается доступности, RDMA over USB4 скоро появится в виде предварительной версии для разработчиков через канал Windows Insider Experimental Channel (Future Platforms). По умолчанию он будет отключен и потребует включения через настройку реестра, наряду с тестовой подписью, что также означает временное отключение Secure Boot.
Для этого откройте командную строку от имени администратора и выполните следующую пару команд:
reg add HKLM\SYSTEM\CurrentControlSet\Services\Usb4HostRouter\Parameters /v EnableInterDomainRdma /t REG_DWORD /d 1 /f bcdedit /set testsigning on

Microsoft заявляет, что работает с AMD, Intel и сообществом open-source над внедрением технологии на большем количестве ПК. Компания также изучает, как Windows ML и ее компилятор DirectX Compute Graph Compiler в конечном итоге могут помочь привнести в Windows больше возможностей для нативной многопроцессорной обработки ИИ.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Sayan Sen




