Qualcomm continua a svelare a piccoli passi le caratteristiche della prossima generazione di processori Snapdragon destinati agli smartphone di fascia alta. La presentazione ufficiale è prevista per il 22 settembre durante lo Snapdragon Summit, con due varianti Elite che potrebbero essere indicate come Snapdragon 8 Elite Gen 6 e 8 Elite Gen 6 Pro.
Dopo aver anticipato una CPU capace di superare per la prima volta i 5 GHz e una GPU con nuove tecnologie per l'upscaling dei fotogrammi, Qualcomm ha ora concentrato l'attenzione sull'unità dedicata all'elaborazione neurale. L'obiettivo è aumentare le capacità di IA eseguite direttamente sul dispositivo, soprattutto per applicazioni basate su agenti.
Una NPU progettata per modelli di IA più complessi
La nuova Hexagon NPU introduce un componente chiamato Element Accelerator, che affianca le unità scalar, vector e tensor già presenti nell'architettura. Il suo compito è accelerare l'inferenza dei modelli Transformer, riducendo i tempi necessari per elaborare le richieste degli agenti IA senza, secondo Qualcomm, aumentare il consumo energetico.
Un'altra modifica riguarda la memoria condivisa tra le quattro unità di elaborazione. Una maggiore quantità di memoria consente di ridurre la necessità di accedere continuamente alla RAM dello smartphone, soprattutto durante la gestione della KV-cache. In pratica, la NPU può conservare più informazioni relative al contesto della conversazione o dell'attività in corso, caratteristica importante per i modelli capaci di gestire operazioni articolate in più passaggi.
Qualcomm ha inoltre progettato la nuova architettura per lavorare con i modelli Mixture-of-Experts (MoE). Questa tecnica non attiva contemporaneamente tutti i parametri di un modello, ma indirizza ogni richiesta verso gli "esperti" più adatti. Il risultato è un carico di calcolo e di memoria inferiore rispetto all'esecuzione completa del modello, rendendo possibile l'esecuzione locale di modelli fino a 30 miliardi di parametri.
Sul fronte delle prestazioni, Qualcomm dichiara un aumento del 50% nella velocità di pre-fill, maggiore throughput nella decodifica, speculative decoding più rapido e un incremento del numero complessivo di token elaborati al secondo. Il dato del 50%, però, riguarda specificamente modelli con precisione INT4 e non equivale quindi a un aumento generalizzato del 50% delle prestazioni IA.
L'insieme degli interventi punta soprattutto a rendere più reattive le funzioni di IA eseguite senza connessione al cloud. Per Qualcomm, il passo successivo non riguarda soltanto risposte più rapide alle richieste degli utenti, ma smartphone capaci di gestire agenti IA che comprendono il contesto, pianificano più operazioni e le eseguono localmente.
Le informazioni sulla nuova NPU rappresentano per ora un'anteprima: Qualcomm dovrebbe fornire tutti i dettagli sui prossimi Snapdragon durante lo Snapdragon Summit del 22 settembre, insieme alle caratteristiche complete delle due varianti della nuova generazione.
