NVIDIA vuole mettere a frutto la potenza di calcolo che resta inutilizzata sui computer di casa: da questa idea nasce NVIDIA PAIR, acronimo di Personal AI Router, un software che permette di distribuire le richieste di inferenza tra più sistemi collegati alla stessa rete locale, senza obbligare gli agenti IA a cambiare il modo in cui comunicano con Ollama o LM Studio.
PAIR non è un nuovo motore di inferenza e non esegue direttamente i modelli. Il suo compito è quello di fare da intermediario: riceve una richiesta, verifica quali computer possono occuparsene e la indirizza verso una macchina disponibile. Ollama o LM Studio continuano quindi a eseguire il modello sul dispositivo scelto, mentre l'applicazione che ha generato la richiesta continua a vedere una singola connessione.
Il vantaggio diventa particolarmente evidente quando entrano in gioco gli agenti capaci di suddividere un'attività tra diversi sub-agent. Invece di accodare tutte le operazioni sulla stessa GPU, PAIR può eseguire richieste indipendenti su computer differenti nello stesso momento, a patto naturalmente che i sistemi abbiano il modello e il motore necessari.
PAIR decide automaticamente dove eseguire ogni richiesta
Il software individua i dispositivi presenti sulla rete tramite mDNS, ma può anche aggiungere un nodo attraverso il suo indirizzo IP. Prima che due sistemi possano comunicare è necessario approvare l'associazione, dopodiché il traffico tra i nodi viene protetto tramite mTLS e certificati generati per la connessione.
La scelta del computer sul quale eseguire un lavoro non dipende soltanto dalla presenza di una GPU libera. PAIR controlla che il nodo sia online, che Ollama o LM Studio siano attivi, che il modello richiesto sia disponibile e quante operazioni siano già in corso. Tiene inoltre conto dell'utilizzo della GPU, così da evitare una macchina impegnata con un videogioco, un rendering o un'altra applicazione pesante.
Non è necessario che tutti i computer abbiano installati gli stessi modelli. Un sistema può ospitarne alcuni e un secondo utilizzarne altri: PAIR conserva queste informazioni e indirizza la richiesta soltanto verso i nodi compatibili. Installare lo stesso modello su più macchine permette invece di aumentare il numero di dispositivi che possono ricevere quel particolare lavoro.
PAIR non somma però la memoria delle GPU, non effettua model sharding e non divide una singola inferenza tra più computer. Ogni richiesta viene assegnata a un solo nodo e rimane su quella macchina fino alla conclusione offrendo benefici soprattutto con molte operazioni indipendenti e parallele.
Due RTX 5090 hanno completato lo stesso lavoro molto più rapidamente
Andando ancora più nel dettaglio, parlando del lato tecnico, NVIDIA ha mostrato un esempio con Hermes e un carico di lavoro composto da cinque sub-agent. Utilizzando Qwen3.6 35B A3B su una singola RTX 5090, il lavoro ha richiesto in media 6 minuti e 18 secondi. Distribuendolo invece attraverso PAIR su due RTX 5090, il tempo è sceso a 3 minuti e 48 secondi.
La stessa NVIDIA precisa che non si tratta di un benchmark generale né di una promessa di scaling lineare: il risultato dipende dal modello, dal numero di operazioni parallele, dall'hardware, dalla rete e dalla disponibilità dei vari nodi.
PAIR verrà distribuito in beta con interfaccia grafica e da terminale su Windows, macOS e Linux. Il supporto ufficialmente indicato comprende GeForce RTX serie 20 e successive, GPU professionali NVIDIA RTX basate su architettura Turing o più recente, DGX Spark e Mac con chip Apple M4 o successivi.
Il progetto è inoltre gratuito e open source, così che gli sviluppatori possano intervenire sulla scoperta dei dispositivi, sul routing, sull'integrazione dei motori, sulla gestione dei modelli e sull'interfaccia. Per NVIDIA l'idea è quella di ottenere qualcosa che ricordi un piccolo cluster locale, senza trasformare però i computer di casa in macchine dedicate esclusivamente all'intelligenza artificiale.
