Un gruppo di ricercatori statunitensi ha presentato una svolta significativa nel campo dell'hardware per l'intelligenza artificiale: il primo chip monolitico 3D realizzato in una fonderia commerciale negli Stati Uniti, capace di offrire prestazioni nettamente superiori rispetto ai tradizionali chip bidimensionali.
Il progetto nasce dalla collaborazione tra Stanford University, Carnegie Mellon University, University of Pennsylvania e MIT, insieme a SkyWater Technology, la principale fonderia "pure-play" con sede esclusivamente negli USA. A differenza dei chip convenzionali, in cui i componenti sono disposti su un unico piano, questa nuova architettura cresce in verticale, come un grattacielo.
I dettagli tecnici sul chip 3D dedicato all'IA
Memoria e unità di calcolo sono distribuite su più livelli sottilissimi, collegati da una fittissima rete di connessioni verticali. Questi collegamenti funzionano come ascensori ad alta velocità, permettendo uno scambio di dati molto più rapido ed efficiente rispetto alle lunghe e congestionate "strade" dei chip 2D.
Il principale problema che questa tecnologia affronta è il cosiddetto "memory wall": nei sistemi moderni, la velocità di calcolo supera di gran lunga quella con cui i dati possono essere trasferiti dalla memoria, causando continui rallentamenti. A questo si aggiunge la "miniaturization wall", ovvero i limiti fisici ormai raggiunti dalla riduzione dei transistor. L'approccio 3D monolitico consente di superare entrambi, integrando memoria e logica in modo estremamente compatto e riducendo drasticamente le distanze che i dati devono percorrere.
I primi test del nuovo chip 3D per l'IA
Nei test hardware iniziali, il nuovo chip ha mostrato prestazioni fino a quattro volte superiori rispetto a soluzioni 2D comparabili. Le simulazioni di versioni future, con un numero maggiore di livelli, indicano miglioramenti ancora più marcati, fino a dodici volte su carichi di lavoro reali legati all'IA, inclusi modelli derivati da LLaMA.
Ancora più promettente è il potenziale incremento dell'energy-delay product, che potrebbe migliorare di 100 o addirittura 1.000 volte, combinando maggiore velocità e minori consumi. Un aspetto cruciale del progetto è la sua realizzabilità industriale. Finora, molte soluzioni 3D erano rimaste confinate ai laboratori accademici. Questa dimostrazione, invece, prova che tali architetture possono essere prodotte in una fonderia commerciale americana.
