Le GPU non sono obsolete, ma la tecnologia ottica cinese sta cambiando le regole dell'inferenza
Il panorama dell'intelligenza artificiale sta vivendo una rivoluzione nella compressione dei modelli e nell'architettura hardware. Una recente ricerca dell'Università di Pechino, pubblicata su National Science Review, propone una soluzione radicale che potrebbe ridefinire l'architettura dei data center e degli edge device.
Innovazione Tecnica: Pipeline Fotoniche a 400 Gbit/s
Invece di affidarsi esclusivamente alla potenza bruta delle GPU, il team ha sviluppato un sistema sperimentale basato su 5 FPGA interconnessi tramite trasmettitori fotonici al silicio. Utilizzando uno switch ottico 16x16 e una velocità di trasmissione di 400 Gbit/s, i ricercatori hanno creato una pipeline dove i risultati intermedi tra i vari layer della rete neurale passano direttamente da un modulo all'altro tramite luce, senza dover essere scritti in memoria esterna.
Risultati impressionanti
I test condotti su task di denoising mostrano numeri che sfidano lo status quo:
- Velocità: Il sistema ha elaborato 1000 immagini in soli 105,16 μs, risultando 149 volte più veloce rispetto a una GPU commerciale di riferimento.
- Efficienza Energetica: L'operazione è stata completata utilizzando solo l'11,6% della potenza nominale, con un'efficienza del 94,7%.
Cosa significa per il futuro dell'AI?
Questa ricerca non suggerisce la fine delle GPU, ma evidenzia come la co-progettazione di algoritmi e interconnessioni ottiche possa sbloccare performance prima impensabili. Per le aziende che gestiscono sistemi agentici complessi o applicazioni in tempo reale (edge AI), questa tecnologia potrebbe ridurre drasticamente la latenza e i costi operativi, spostando il focus dalla "quantità di chip" alla "qualità dei collegamenti".
Fonte originale: Red Hot Cyber
Testo: assistito da AI · revisionato da Carlos H. P. Ross
