Una configurazione sviluppata per garantire una maggiore privacy, ridurre la dipendenza dalla connessione internet e ottimizzare i consumi.
L’intelligenza Artificiale è la principale responsabile del graduale passaggio dall’architettura informatica Cloud-first a quella On-device AI. Questa recente configurazione prevede l’elaborazione degli Small Language Models (SLM) senza l’intervento di un cloud o di un servizio remoto di archiviazione online. Così i dati raccolti dai dispositivi On-device AI vengono processati in tempo reale sull’hardware da appositi processori locali. Ecco la principale novità introdotta dal cambio di paradigma tecnologico incentrato sulla latenza, sulla privacy personale e sul consumo energetico.
I pilastri tecnici del modello On-device AI per dispositivi mobili
Gli impatti più rilevanti di questa transizione riguardano la latenza perché i dati elaborati in maniera diretta dalle GPU (Graphics Processing Unit) o dalle NPU (Neural Processing Unit) eliminano i carichi di lavoro destinati ai server esterni. I servizi di archiviazione online vengono rimpiazzati da chip in grado di ridurre la latenza ed eseguire più operazioni complesse al secondo. Ecco come vengono ridotte le tempistiche per l’elaborazione delle risposte immediate, l’analisi visiva dei contenuti digitali e il funzionamento dei sistemi di riconoscimenti biometrici. Con i dispositivi mobili On-device AI si possono proteggere anche le informazioni sensibili impedendone la circolazione, ma la principale svolta è costituita dalla riduzione dei consumi energetici. Gli strumenti con funzioni integrate di Intelligenza Artificiale sprecano meno risorse perché non devono trasmettere alcun dato. L’ottimizzazione è il principale risultato di un passaggio considerato ormai inarrestabile, date le capacità di calcolo raggiunte dai processori e la considerevole quantità di dati prodotti dai dispositivi mobili. Nei modelli più recenti l’Intelligenza Artificiale interagisce con le chiamate e i servizi vocali tramite la trascrizione automatica delle conversazioni sull’hardware. Il chip Tensor G4 del pixel 9 pro accelera pure le operazioni di editing grafico, compressione dei testi e sblocco facciale. Così vengono superati i limiti imposti dalle reti o dai server esterni per le funzioni di calcolo avanzate e la completa autonomia dei device.
Sostenibilità e impatto reale dell’architettura informatica On-device AI sui dispositivi mobili
L’Intelligenza Artificiale riduce l’impronta operativa di carbonio tramite l’avvicendamento tra chip locali e data center esterni. Questo turnover apporta un significativo cambiamento sul volume di CO2 emesso per un trasferimento sul cloud, ma l’impatto reale del modello On-device AI dipende dal bilancio effettivo tra l’energia di trasmissione e quella di calcolo. Diverse applicazioni contengono i consumi energetici delle infrastrutture di rete con l’esecuzione automatica ed indipendente di determinate funzioni, ma col supporto dei pattern d’uso vengono estesi anche i cicli di vita delle batterie.
Le insidie di misurazione relative ai consumi dei dispositivi mobili On-device AI
I risparmi energetici iniziali vengono annullati dal crescente abuso dell’Intelligenza Artificiale per lo svolgimento di numerose funzioni. Quest’effetto di rimbalzo provoca un incremento del consumo complessivo della batteria, uno spreco di risorse riservate ai cicli di calcolo e un eccessivo surriscaldamento dell’hardware. Tuttavia, la principale insidia di misurazione riguarda il volume di emissioni rilasciate durante la produzione dei chip utilizzati dai modelli On-device AI. Un dato piuttosto controverso data la quantità di CO2 immessa nell’atmosfera per la creazione di un dispositivo mobile di ultima generazione perché la sostenibilità non riguarda soltanto l’utilizzo effettivo dello strumento, ma sia il suo processo produttivo che il suo trattamento finale.
