Indice
Un data center dedicato all'intelligenza artificiale è il luogo in cui viene eseguita l'intelligenza artificiale
Un data center dedicato all'intelligenza artificiale è una struttura specializzata che ospita le apparecchiature informatiche necessarie per sviluppare, implementare e gestire sistemi di intelligenza artificiale. Può supportare l'addestramento dei modelli, l'inferenza, l'elaborazione dei dati, gli assistenti di ricerca, la generazione di immagini, i sistemi di raccomandazione o le applicazioni aziendali basate sull'intelligenza artificiale.
Il termine “data center” può far sembrare l’infrastruttura qualcosa di astratto, ma si tratta in realtà di edifici fisici collegati alla rete elettrica, alle reti in fibra ottica, ai sistemi di raffreddamento e alle infrastrutture per lo smaltimento dell’acqua o del calore. L’intelligenza artificiale può sembrare solo software, ma dipende da macchine reali situate in luoghi reali.
Un data center cloud convenzionale è in grado di gestire molti tipi di carichi di lavoro. Un data center dedicato all'intelligenza artificiale è solitamente ottimizzato per elaborazioni ad alta densità, in particolare cluster di GPU o acceleratori che eseguono un numero enorme di operazioni matematiche in parallelo.
Cosa c'è all'interno di un data center dedicato all'intelligenza artificiale?
Il cuore visibile è costituito da rack di server. Nelle strutture dedicate all’intelligenza artificiale, molti di questi server contengono GPU, acceleratori di IA, memorie ad alta larghezza di banda e schede di rete specializzate. Queste macchine sono progettate per trasferire i dati rapidamente ed eseguire calcoli matriciali in modo efficiente.
Intorno all’hardware di elaborazione si articola un sistema di supporto più ampio: sistemi di archiviazione per i set di dati e i checkpoint dei modelli, switch di rete, connessioni in fibra ottica, apparecchiature di conversione dell’alimentazione, sistemi di backup, monitoraggio, sistemi antincendio e sicurezza fisica.
Il raffreddamento è importante tanto quanto l’elaborazione dei dati. L’hardware per l’intelligenza artificiale ad alta densità genera calore in modo continuo, pertanto le strutture utilizzano sistemi di raffreddamento ad aria, a liquido, refrigeratori, pompe, torri di raffreddamento o scambiatori di calore, a seconda della progettazione e delle condizioni locali.
Cosa contraddistingue un data center basato sull'intelligenza artificiale?
La differenza principale risiede nella densità e nella natura del carico di lavoro. L'addestramento dell'IA può tenere occupati migliaia di acceleratori per lunghi periodi, mentre i sistemi di inferenza devono rispondere rapidamente alle richieste degli utenti, alle chiamate API, ai suggerimenti o alle immagini generate.
I cluster di intelligenza artificiale richiedono inoltre una comunicazione estremamente veloce tra le macchine. Durante l'addestramento, le GPU si scambiano costantemente gradienti e dati dei modelli. Durante l'inferenza, i server devono caricare i pesi dei modelli, elaborare il contesto e restituire i risultati con bassa latenza.
Questa combinazione di chip ad alta densità, elevato assorbimento di potenza, connettività di rete veloce e gestione del calore rende l’infrastruttura di intelligenza artificiale più esigente rispetto a molti carichi di lavoro tradizionali, sia web che aziendali.
I data center per l'intelligenza artificiale supportano l'addestramento e l'inferenza
L'addestramento è la fase in cui un modello apprende dai dati. Può richiedere set di dati di grandi dimensioni, elaborazioni di lunga durata, calcoli ripetuti e cluster di GPU che operano in modo coordinato. Si tratta spesso del tipo di elaborazione AI più evidente, poiché genera una domanda di infrastruttura ingente e concentrata.
L'inferenza è la fase in cui viene utilizzato un modello addestrato. Ogni risposta di un chatbot, ogni generazione di immagini, ogni risposta di un assistente di ricerca o ogni richiesta di classificazione comporta un'operazione di inferenza. Una singola richiesta può essere di entità modesta, ma l'utilizzo su larga scala genera una domanda continua.
Molti data center dedicati all’intelligenza artificiale supportano entrambe le fasi, anche se non sempre allo stesso modo. L’addestramento richiede grandi cluster sincronizzati, mentre l’inferenza è fortemente influenzata da fattori quali la latenza, la disponibilità, l’instradamento, l’elaborazione in batch e il costo per richiesta.
L'alimentazione e il raffreddamento sono elementi fondamentali in ogni data center dedicato all'intelligenza artificiale
L'hardware per l'intelligenza artificiale richiede energia elettrica, e quasi tutta quell'energia finisce per trasformarsi in calore. Una struttura deve quindi disporre di un'alimentazione elettrica sufficiente per far funzionare le apparecchiature e di una capacità di raffreddamento adeguata per dissipare il calore in modo affidabile.
Ecco perché quando si parla di data center per l’intelligenza artificiale si fa spesso riferimento a megawatt o gigawatt, e non solo a metri quadrati. Il fattore limitante potrebbe essere rappresentato dall’allacciamento alla rete elettrica, dai trasformatori, dai sistemi di generazione di riserva, dall’acqua di raffreddamento, dallo smaltimento del calore o dalle autorizzazioni locali, piuttosto che dal solo terreno.
Chip più performanti, il raffreddamento a liquido e una progettazione più efficiente dei data center possono ridurre il consumo energetico per attività, ma la domanda totale può comunque aumentare se l'utilizzo dell'IA cresce più rapidamente rispetto al miglioramento dell'efficienza.
Dove vengono costruiti i data center dedicati all'intelligenza artificiale?
I data center dedicati all’intelligenza artificiale vengono realizzati in luoghi in cui gli operatori possono combinare fattori quali l’energia elettrica, i terreni, la connettività in fibra ottica, le opzioni di raffreddamento, le condizioni fiscali e autorizzative, la disponibilità di manodopera e la vicinanza agli utenti o alle regioni cloud.
Alcune sedi sono pubblicamente identificate come siti di supercomputer per l'IA o di infrastrutture per l'IA. Altre sono regioni cloud hyperscale generiche in grado di eseguire carichi di lavoro di IA, ma non sono pubblicamente associate a un modello o a un prodotto specifico.
Per una panoramica generale di carattere informativo, si veda la voce correlata: Dove si trovano i data center dedicati all'intelligenza artificiale?.
Perché i data center dedicati all'intelligenza artificiale sono importanti
I data center dedicati all'intelligenza artificiale sono fondamentali perché collegano l'uso quotidiano dell'IA all'infrastruttura fisica. Un comando digitato su un laptop o uno smartphone può attivare operazioni di calcolo all'interno di server dotati di GPU, che a loro volta dipendono da elettricità, sistemi di raffreddamento, acqua, chip, terreni e reti.
Sono importanti anche per le comunità locali. Gli impianti di grandi dimensioni possono portare investimenti e posti di lavoro, ma possono sollevare interrogativi riguardo alla capacità della rete elettrica, al consumo idrico, all’uso del suolo, al rumore, alle emissioni, alla trasparenza e a chi debba sostenere i costi delle infrastrutture di supporto.
Una discussione approfondita sull’impatto dell’intelligenza artificiale deve quindi andare oltre le capacità astratte dei modelli. Deve prendere in considerazione dove viene gestita l’infrastruttura, come viene alimentata, con quale efficienza viene raffreddata e con quale trasparenza i suoi gestori rendono conto dell’utilizzo delle risorse.