Если вы энтузиаст ИИ, жаждущий токенов, и если у вас или вашей семьи есть ПК с простаивающими вычислительными ресурсами графического процессора, которые можно выделить в текущей экономической ситуации, Nvidia хочет дать вам возможность использовать эти ресурсы, чтобы вы могли сэкономить на облачных токенах и сохранить конфиденциальность своей работы. На выставке IFA 2026 компания представит локальный инструмент для распределенного кластеризации ИИ под названием Personal AI Router (PAIR), который отправляет подзадачи агентного ИИ с вашего основного ПК на системы в вашей домашней сети, имеющие подходящие свободные ресурсы графического процессора.
По словам Nvidia, когда пользователь запускает локальный ИИ-агент и ставит перед ним задачу, этот центральный агент может породить несколько подзадач, выделенных из более крупной цели. Если эти подзадачи или субагенты выполняются на одном и том же графическом процессоре, возникающая конкуренция может привести к более медленному завершению задачи, чем если бы каждый субагент имел выделенный узел вычислений.
PAIR — это инструмент, который может обеспечить выполнение распределенной работы ИИ в домашней сети. При условии, что семья или общее домохозяйство располагают достаточным количеством простаивающих ресурсов графического процессора, PAIR может назначить каждой участвующей системе одну из этих подзадач для выполнения и вернуть результаты на основной узел, что потенциально приведет к более быстрому завершению более крупной агентной задачи.
Конечно, системы в вашей локальной сети не всегда будут простаивать. Их владельцы часто будут использовать графические процессоры в своих системах для игр, творческой работы или собственных задач ИИ. Если пользователю потребуется вернуть свой графический процессор, PAIR, как утверждается, будет корректно обрабатывать эти меняющиеся условия. Он не резервирует выделенную мощность от других ПК; он эластичен по своей природе и будет максимально использовать доступные ему ресурсы в любой данный момент.
Эта непредсказуемая доступность свободных циклов, конечно, означает, что качество обслуживания в кластере PAIR не гарантируется. Но для длительных задач, которые не требуют строгого соблюдения сроков, возможность использовать простаивающие вычислительные мощности может быть более эффективной, чем запуск роя агентов на одном узле.
Настройка PAIR кажется относительно простой. Он создает прокси для популярных ИИ-фронтендов, таких как LM Studio и Ollama, для подключения. Затем PAIR оркестрирует работу между доступными узлами в сети и возвращает результаты этой работы в исходное приложение на головном узле.
В свою очередь, участвующие узлы PAIR также должны запускать Ollama или LM Studio и иметь собственную установку PAIR. Nvidia заявляет, что регистрация систем в кластере PAIR проста и полагается на mDNS или резервный IP-адрес для обнаружения. PAIR также поможет инициировать загрузку моделей на участвующих системах, но Nvidia говорит, что узлам не обязательно иметь идентичные модели или наборы загруженных моделей для участия.
Однако, если больше систем имеют определенную модель, это расширяет пул потенциальных узлов, которые могут обработать запрос, если управляющему агенту требуются возможности конкретной модели.
PAIR будет работать на любом устройстве DGX Spark (или другом GB10), а также на видеокартах GeForce RTX серии 20 или новее. Он также поддерживает Mac с процессорами серии M4 или новее для инференса. Соответственно, клиент PAIR будет доступен для Windows, macOS и Linux.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Jeffrey Kampman
