Nvidia PAIR розподіляє AI-запити між домашніми комп’ютерами

Nvidia анонсувала Personal AI Router, або PAIR, — безкоштовний відкритий інструмент для розподілу локальних AI-запитів між сумісними комп’ютерами в домашній мережі. Бета доступна для Windows, macOS і Linux, має графічний та термінальний інтерфейси. За описом компанії, підтримуються GeForce RTX 20 і новіші, відповідні RTX PRO, DGX Spark та комп’ютери Apple з M4 або новішими чипами.

PAIR взаємодіє з Ollama й LM Studio: знаходить доступні системи та спрямовує незалежні запити туди, де є вільні ресурси. Мережа може змінюватися, коли пристрої приєднуються або зникають. Nvidia подає це як спосіб обслуговувати кілька AI-підагентів паралельно, не змушуючи їх усіх чекати на одній відеокарті. Заявлений виграш залежить від завдання; універсального прискорення для будь-якого запиту з анонсу не випливає.

Редакційний аналіз HARDW: маршрутизатор запитів слід відрізняти від об’єднання кількох GPU в один прискорювач. Якщо окрема модель не вміщується у пам’ять жодної машини, сам факт наявності PAIR не доводить, що вона запуститься завдяки сумарному обсягу VRAM. Описана функція розподіляє незалежні роботи. Це інша задача, ніж поділ одного великого обчислення між кількома пристроями з постійним обміном проміжними даними.

Практичний сценарій виглядає так: кілька незалежних документів можна аналізувати одночасно на різних машинах, а висновки звести пізніше. Якщо ж кожен наступний крок чекає на попередній, додатковий комп’ютер може майже не допомогти. Тому першою перевіркою має бути не кількість підключених GPU, а здатність реального робочого процесу ділитися на паралельні частини без втрати якості результату.

Локальність також не скасовує питань конфіденційності. Документ може залишатися поза зовнішньою хмарою, але потрапляти на інший домашній або офісний комп’ютер. Варто погодити участь власників, перевірити права доступу, журнали та збереження тимчасових даних. Саме слово «локально» не є гарантією ізоляції: межа довіри тепер охоплює всі вузли, які беруть участь в обробці.

Оцінювати користь ми пропонуємо за повним часом виконання та витратами електроенергії, а не лише за завантаженням відеокарт. Додаткові машини споживають енергію, а повільний вузол або передавання даних можуть змінити результат. Для власника кількох сумісних ПК PAIR цікавий як експеримент із уже наявним обладнанням. Купувати окрему систему лише заради обіцяного прискорення до вимірювань свого завдання було б передчасно: стабільність бети та ефект конкретного сценарію ще потрібно перевірити.