Perché l'intelligenza artificiale consuma così tanta elettricità?

I sistemi di IA non rispondono da un elenco statico di risposte salvate. Quando un utente invia un prompt, carica un’immagine o chiama un’API di IA, il sistema esegue operazioni matematiche attraverso un modello addestrato per produrre un output.

Queste operazioni richiedono processori, memoria, rete e storage. Una singola richiesta può essere piccola, ma i prodotti IA moderni possono gestire traffico enorme tra chatbot, assistenti di ricerca, strumenti di coding, generatori di immagini e applicazioni aziendali.

Per questo l’uso di energia è inseparabile dall’infrastruttura IA. L’esperienza visibile può essere una breve risposta sullo schermo, ma dietro ci sono chip, server, datacenter, raffreddamento e sistemi elettrici che svolgono lavoro fisico.

L’IA moderna dipende molto dalle GPU perché le reti neurali richiedono molti calcoli eseguibili in parallelo. Le GPU sono progettate per questo tipo di calcolo parallelo e sono più adatte delle CPU per molti carichi di addestramento e inferenza.

Il compromesso è che i server GPU ad alte prestazioni assorbono molta potenza, soprattutto quando lavorano ad alta utilizzazione in cluster. Un grande servizio IA può collegare molti acceleratori con reti veloci per condividere dati e sincronizzare i calcoli.

Questo non significa che le GPU siano inefficienti per l’IA. In molti casi sono la scelta efficiente per il compito. Ma poiché i compiti sono grandi e continui, i cluster GPU diventano una delle fonti più visibili della domanda elettrica dell’IA.

L’addestramento è la fase in cui un modello impara dai dati. I grandi addestramenti possono elaborare enormi dataset per molti passaggi ripetuti, regolando miliardi di parametri finché il modello diventa utile per prevedere, generare o classificare.

Questo lavoro può tenere in funzione grandi cluster GPU per giorni, settimane o più. La domanda energetica è concentrata perché molti acceleratori, sistemi di storage e reti lavorano insieme nello stesso job di addestramento.

L’addestramento non è l’unica parte del consumo energetico dell’IA, ma conta perché sviluppo di modelli frontier, sperimentazione e riaddestramento possono richiedere picchi intensi di elettricità e molta capacità di datacenter.

L’inferenza è la fase in cui si usa un modello addestrato. Ogni risposta in stile ChatGPT, generazione di immagini, traduzione, raccomandazione, riassunto o suggerimento di codice richiede calcolo di inferenza.

A differenza dell’addestramento, l’inferenza avviene ogni volta che le persone usano sistemi IA distribuiti. Se un servizio gestisce milioni o miliardi di prompt, richieste di immagini e chiamate API, piccole quantità di energia per richiesta possono sommare una domanda giornaliera significativa.

Per questo il consumo energetico dell’IA è sempre più legato all’adozione. Più l’IA entra in ricerca, strumenti da ufficio, sviluppo software, supporto clienti, produzione media e dispositivi mobili, più l’infrastruttura di inferenza deve funzionare continuamente.

L’hardware IA funziona dentro datacenter, e le GPU sono solo una parte della storia elettrica. I server hanno bisogno di memoria, storage, apparati di rete, alimentatori e sistemi di backup. I dati devono muoversi tra macchine, rack e talvolta regioni.

Conta anche il raffreddamento. I server IA ad alta densità generano molto calore, quindi le strutture usano raffreddamento ad aria, liquido, chiller, pompe, ventole o scambiatori di calore per mantenere temperature operative sicure.

L’efficienza dei datacenter è spesso riassunta dal PUE, power usage effectiveness. Un PUE più basso significa che più elettricità viene usata dai sistemi di calcolo invece che dall’overhead dell’edificio, ma nessun grande datacenter opera senza energia di supporto.

Le stime pubbliche variano perché la maggior parte dei fornitori di IA non divulga il consumo energetico completo in tempo reale per modello, prodotto o tipo di richiesta. Ricercatori e analisti combinano segnali pubblici di adozione, ipotesi hardware, stime sulle dimensioni dei modelli e intervalli di efficienza dei datacenter.

Il risultato dipende da molte variabili: dimensione del modello, numero di token, risoluzione delle immagini, generazione hardware, utilizzazione, batching, banda di memoria, posizione geografica, mix elettrico e se il sistema addestra, serve inferenza o resta inattivo.

Per questo le cifre sull’elettricità dell’IA vanno di solito lette come stime direzionali, non come misure ufficiali esatte. La domanda utile spesso non è un singolo numero, ma quali fattori fanno salire o scendere il consumo.

L’IA può diventare più efficiente a parità di compito. Chip migliori, architetture più efficienti, quantizzazione, caching, batching, distillazione e routing verso modelli più piccoli possono ridurre il calcolo necessario per output utili.

Anche i datacenter possono migliorare con raffreddamento migliore, maggiore utilizzazione dell’hardware, acquisto di elettricità più pulita e distribuzione elettrica più efficiente. Questi miglioramenti riducono gli sprechi e possono abbassare l’energia per richiesta.

La domanda più difficile riguarda la domanda totale. Se l’efficienza migliora ma l’uso dell’IA cresce più velocemente, il consumo elettrico totale può comunque aumentare. Una visione equilibrata deve seguire entrambi i lati: efficienza per compito e scala dell’adozione globale.