Hvad er et AI-datacenter?

Et AI-datacenter er et specialiseret anlæg, der rummer det nødvendige computerudstyr til at udvikle, implementere og drive kunstig intelligens-systemer. Det kan understøtte modeltræning, inferens, databehandling, søgeassistenter, billedgenerering, anbefalingssystemer eller AI-applikationer til virksomheder.

Udtrykket »datacenter« kan få infrastrukturen til at lyde abstrakt, men der er tale om fysiske bygninger, der er forbundet med elnettet, fibernetværk, kølesystemer og infrastruktur til afledning af vand eller varme. AI kan virke som software, men den er afhængig af virkelige maskiner på virkelige steder.

Et traditionelt cloud-datacenter kan håndtere mange forskellige typer arbejdsopgaver. Et AI-datacenter er som regel optimeret til meget intensiv databehandling, især GPU- eller acceleratorklynger, der udfører et enormt antal parallelle matematiske operationer.

Det, man kan se, er rækker af servere. I AI-anlæg indeholder mange af disse servere GPU’er, AI-acceleratorer, hukommelse med høj båndbredde og specialiserede netværkskort. Disse maskiner er udviklet til at overføre data hurtigt og udføre matrixberegninger effektivt.

Omkring computerhardwaren findes et større understøttende system: lagerplads til datasæt og model-checkpoints, netværksswitche, fiberforbindelser, strømforsyningsudstyr, backup-systemer, overvågning, brandslukningsanlæg og fysisk sikkerhed.

Køling er lige så vigtig som selve beregningerne. Kompakt AI-hardware afgiver løbende varme, og derfor anvender anlæggene luftkøling, væskekøling, køleanlæg, pumper, køletårne eller varmevekslere, afhængigt af anlæggets udformning og de lokale forhold.

Den største forskel ligger i tætheden og arbejdsbelastningens karakter. AI-træning kan holde tusindvis af acceleratorer beskæftiget i lange perioder, mens inferenssystemer skal reagere hurtigt på brugerindtastninger, API-kald, anbefalinger eller genererede billeder.

AI-klynger kræver desuden ekstremt hurtig kommunikation mellem maskinerne. Under træningen udveksler GPU’erne konstant gradienter og modeldata. Under inferensen skal serverne indlæse modelvægte, behandle kontekst og returnere resultater med lav latenstid.

Denne kombination af tætpakkede chips, højt strømforbrug, hurtige netværksforbindelser og varmestyring gør AI-infrastrukturen mere krævende end mange traditionelle web- eller virksomhedsbaserede arbejdsbelastninger.

Træning er den fase, hvor en model lærer af data. Det kan kræve store datasæt, lange kørsler, gentagne beregninger og klynger af GPU’er, der arbejder sammen. Dette er ofte den mest synlige form for AI-beregninger, da den medfører et stort og koncentreret behov for infrastruktur.

Inferens er den fase, hvor en trænet model tages i brug. Hvert svar fra en chatbot, hver billedgenerering, hvert svar fra en søgeassistent eller hver klassificeringsanmodning udløser en inferens. En enkelt anmodning kan være lille, men den samlede brug skaber en kontinuerlig efterspørgsel.

Mange AI-datacentre understøtter begge faser, om end ikke altid på samme måde. Træning kræver store, synkroniserede klynger, mens inferens i høj grad afhænger af latenstid, tilgængelighed, routing, batchbehandling og omkostninger pr. forespørgsel.

AI-hardware kræver strøm, og næsten al denne strøm omdannes i sidste ende til varme. Et anlæg skal derfor have tilstrækkelig strømforsyning til at drive udstyret og tilstrækkelig kølekapacitet til pålideligt at fjerne varmen.

Derfor tales der ofte om AI-datacentre i megawatt eller gigawatt og ikke kun i kvadratmeter. Den begrænsende faktor kan være nettilslutning, transformere, reservestrømforsyning, kølevand, varmeafledning eller lokale tilladelser snarere end selve arealet.

Bedre chips, væskekøling og et mere effektivt design af datacentre kan reducere energiforbruget pr. opgave, men det samlede energibehov kan stadig stige, hvis brugen af kunstig intelligens vokser hurtigere, end effektiviteten forbedres.

AI-datacentre opføres på steder, hvor operatørerne kan kombinere strømforsyning, arealer, fiberforbindelser, kølemuligheder, skatte- og tilladelsesvilkår, adgang til arbejdskraft samt nærhed til brugere eller cloud-regioner.

Nogle lokationer er offentligt betegnet som AI-supercomputer- eller AI-infrastrukturanlæg. Andre er generelle hyperscale-cloudregioner, der kan køre AI-arbejdsbelastninger, men som ikke offentligt er knyttet til en bestemt model eller et bestemt produkt.

For en overordnet oversigt, se den tilhørende liste: Hvor ligger AI-datacentrene?.

AI-datacentre er vigtige, fordi de forbinder den daglige brug af AI med den fysiske infrastruktur. En kommando på en bærbar computer eller en telefon kan udløse beregninger i GPU-servere, som er afhængige af elektricitet, køling, vand, chips, arealer og netværk.

De har også betydning for lokalsamfundene. Store anlæg kan medføre investeringer og arbejdspladser, men de kan også give anledning til spørgsmål om elnettets kapacitet, vandforbrug, arealanvendelse, støj, emissioner, gennemsigtighed og hvem der skal betale for den nødvendige infrastruktur.

En seriøs diskussion af kunstig intelligens’ indvirkning må derfor se ud over de abstrakte modelkapaciteter. Den skal også omfatte, hvor infrastrukturen kører, hvordan den forsynes med strøm, hvor effektivt den køles, og hvor åbent operatørerne rapporterer om ressourceforbruget.