Il 3 settembre 2026 NVIDIA ha pubblicato Sparks Fly: NVIDIA Accelerates Local AI at IFA 2026. Non è il nome di un protocollo che fonde la VRAM di casa. È il titolo del blog dell’IFA di Berlino. Dentro c’è NVIDIA PAIR, Personal AI Router: un software gratuito e open source che scopre i PC compatibili in LAN e smista le richieste di inferenza.
La confusione nasce da lì. “Distribuisce l’inferenza sui PC della rete” viene letto come “12 GB più 16 GB più 8 GB diventano 36 GB per un solo modello”. La documentazione ufficiale dice il contrario.
Cosa fa PAIR, e cosa non fa
PAIR presenta alle app endpoint compatibili con Ollama e con le API OpenAI. Scopre i nodi, guarda quale engine è acceso, se il modello c’è e quanto carico ha, poi manda la richiesta. Nel blog IFA l’esempio è un agente, tipo Hermes, che spezza un compito in sotto-job: PAIR li piazza su PC diversi invece di farli attendere sulla stessa GPU.
La README mette il limite in evidenza: ogni richiesta indipendente va a un solo nodo. PAIR non fa pooling della memoria GPU, non unisce le GPU in una GPU logica più grande, non shard-a un modello tra macchine e non spezza una richiesta già in volo. Il playbook ripete la stessa frase: accoppiare i sistemi non somma la memoria per far entrare un modello più grande.
In pratica, se nessuna macchina ha abbastanza memoria per i pesi, il contesto e l’overhead dell’engine, PAIR non crea quella memoria. Può solo scegliere, tra i nodi che il modello lo reggono già, quello meno occupato.
Lo scheduler non guarda la VRAM
La policy attuale combina la coda con un segnale di utilizzo GPU smussato. Non considera il modello di GPU, la memoria libera, se il modello è già caldo, né quanto costa la richiesta. NVIDIA stessa scrive che oggi è più adatto a macchine simili che a un cluster molto misto.
C’è un secondo dettaglio, nei known issues. Su Windows con GPU a memoria unificata, PAIR mostra solo la memoria dedicata e sottostima la capacità. Su Linux senza driver NVIDIA la cifra può mancare. L’impatto è sul display, non sul routing: il router non usa quei numeri per decidere. Chi sceglie dove tenere un modello grande deve guardare gli strumenti della macchina, non la card di PAIR.
Il supporto dichiarato in beta copre GeForce RTX serie 20 e successive, RTX PRO da Turing in poi, DGX Spark e Apple M4 o successivi, su Windows, macOS e Linux. Si mescolano i sistemi. Non si mescola la VRAM.
Dove la memoria si somma davvero
Il pooling esiste, su un altro prodotto e con un altro cavo. La guida ConnectX-7 del DGX Spark spiega come collegare più unità con cavi QSFP sulle porte esterne, per far girare carichi che non entrano in un solo device. Il Cluster Assistant di NVIDIA Sync configura la rete da solo, se i cavi sono giusti. Vale solo per DGX Spark e GB10, da 2 a 4 dispositivi. Non configura il workload di inferenza: prepara rete, link e SSH.
Il 2 ottobre 2026 NVIDIA ha annunciato il DGX Spark da 64 GB, in arrivo il 23 ottobre da Acer, ASUS, Dell, Gigabyte, HP e MSI. Due unità collegate in diretto sulla ConnectX-7, a 200 GbE, mettono insieme 128 GB e, secondo NVIDIA, reggono modelli fino a circa 200 miliardi di parametri. Nel test interno su Qwen 3.8 27B, due sistemi da 64 GB hanno dato fino a 1,7x rispetto a un sistema singolo. È un cluster con NIC da 200 GbE e cavo dedicato, non tre schede diverse sulla Wi-Fi.
RTX Spark è un’altra linea ancora: superchip Grace-Blackwell per laptop e desktop Windows on Arm, fino a 128 GB di memoria unificata e 1 petaflop FP4 dichiarato, con preordini aperti a ottobre 2026. Anche lì la memoria è unificata dentro il chip, via NVLink-C2C. Non è la somma di VRAM sparse in LAN.
Cosa resta utile, e cosa no
PAIR serve se hai più macchine che già caricano i modelli che ti servono e un agente che spara richieste in parallelo. Il prompt resta in rete locale se app, modelli, engine e nodi sono tutti locali. Non apre un endpoint raggiungibile da fuori: accetta richieste solo dal sistema su cui è installato.
Non serve se il problema è l’out of memory su un modello che non entra in nessuna GPU. Per quello servono quantizzazione, un device con più memoria unificata, oppure un cluster DGX Spark cablato. Chiamare Sparks Fly una soluzione al VRAM frammentato inverte il prodotto che NVIDIA ha documentato.
Fonti
Testo: assistito da AI · revisionato da Carlos H. P. Ross
