Hva er et AI-datasenter?

Et AI-datasenter er et spesialisert anlegg som rommer det databehandlingsutstyret som trengs for å utvikle, implementere og drifte systemer for kunstig intelligens. Det kan støtte modellopplæring, inferens, databehandling, søkeassistenter, bildegenerering, anbefalingssystemer eller AI-applikasjoner for bedrifter.

Ordet «datasenter» kan få infrastrukturen til å virke abstrakt, men det dreier seg om fysiske bygninger som er koblet til strømnett, fibernettverk, kjølesystemer og infrastruktur for avledning av vann eller varme. AI kan oppleves som programvare, men den er avhengig av virkelige maskiner på virkelige steder.

Et vanlig skysenter kan håndtere mange ulike typer arbeidsbelastninger. Et AI-datasenter er vanligvis optimalisert for svært tett beregning, særlig GPU- eller akseleratorklynger som utfører et enormt antall parallelle matematiske operasjoner.

Det man ser, er rekker med servere. I AI-anlegg inneholder mange av disse serverne GPU-er, AI-akseleratorer, minne med høy båndbredde og spesialiserte nettverkskort. Disse maskinene er utviklet for å overføre data raskt og utføre matriseberegninger effektivt.

Rundt databehandlingsutstyret finnes et større støttesystem: lagringsplass for datasett og modell-sjekkpunkter, nettverkssvitsjer, fiberforbindelser, strømforsyningsutstyr, reservesystemer, overvåking, brannslukking og fysisk sikkerhet.

Kjøling er like viktig som databehandling. Tettpakket AI-maskinvare avgir varme kontinuerlig, og derfor benytter anleggene luftkjøling, væskekjøling, kjøleaggregater, pumper, kjøletårn eller varmevekslere, avhengig av utformingen og de lokale forholdene.

Den viktigste forskjellen ligger i tettheten og arbeidsbelastningens karakter. AI-trening kan holde tusenvis av akseleratorer i gang i lange perioder, mens inferenssystemer må reagere raskt på brukerhenvendelser, API-anrop, anbefalinger eller genererte bilder.

AI-klynger krever også ekstremt rask kommunikasjon mellom maskinene. Under opplæringen utveksler GPU-ene kontinuerlig gradienter og modelldata. Under inferens må serverne laste inn modellvekter, behandle kontekst og returnere resultater med lav forsinkelse.

Denne kombinasjonen av tettpakkede brikker, høyt strømforbruk, raskt nettverk og varmestyring gjør at AI-infrastruktur stiller større krav enn mange tradisjonelle nett- eller bedriftsapplikasjoner.

Trening er den fasen der en modell lærer av data. Det kan kreve store datasett, lange kjøringer, gjentatte beregninger og klynger av GPU-er som samarbeider. Dette er ofte den mest synlige formen for AI-beregninger, fordi den medfører et stort og konsentrert behov for infrastruktur.

Inferens er den fasen der en trent modell tas i bruk. Hvert svar fra en chatbot, hver bildegenerering, hvert svar fra en søkeassistent eller hver klassifiseringsforespørsel innebærer inferens. En enkelt forespørsel kan være liten, men den samlede bruken skaper en kontinuerlig etterspørsel.

Mange AI-datasentre støtter begge fasene, men ikke alltid på samme måte. Opplæring krever store, synkroniserte klynger, mens inferens i stor grad er avhengig av ventetid, tilgjengelighet, rutevalg, batchbehandling og kostnad per forespørsel.

AI-maskinvare trenger strøm, og nesten all denne strømmen omdannes til slutt til varme. Et anlegg må derfor ha tilstrekkelig strømforsyning til å drive utstyret og tilstrekkelig kjølekapasitet til å fjerne varmen på en pålitelig måte.

Det er derfor man ofte snakker om AI-datasentre i megawatt eller gigawatt, ikke bare i kvadratmeter. Den begrensende faktoren kan være nettilkobling, transformatorer, reservekraft, kjølevann, varmeavledning eller lokale tillatelser, snarere enn tomtearealet alene.

Bedre chips, væskekjøling og mer effektiv utforming av datasentre kan redusere energiforbruket per oppgave, men det totale forbruket kan likevel øke dersom bruken av AI vokser raskere enn effektiviteten forbedres.

AI-datasentre bygges der operatørene kan kombinere strømforsyning, tomteareal, fiberforbindelser, kjølemuligheter, skatte- og tillatelsesvilkår, tilgang på arbeidskraft og nærhet til brukere eller skyregioner.

Noen lokasjoner er offentlig kjent som AI-superdatamaskin- eller AI-infrastrukturanlegg. Andre er generelle hyperscale-skyregioner som kan kjøre AI-arbeidsbelastninger, men som ikke er offentlig knyttet til én bestemt modell eller ett bestemt produkt.

For en overordnet oversikt, se den tilhørende oversikten: Hvor ligger AI-datasentrene?.

AI-datasentre er viktige fordi de knytter den daglige bruken av AI til den fysiske infrastrukturen. En kommando på en bærbar PC eller en telefon kan utløse beregninger i GPU-servere, som er avhengige av strøm, kjøling, vann, mikrobrikker, areal og nettverk.

De har også betydning for lokalsamfunnene. Store anlegg kan medføre investeringer og arbeidsplasser, men de kan også reise spørsmål om nettkapasitet, vannforbruk, arealbruk, støy, utslipp, åpenhet og hvem som skal betale for den nødvendige infrastrukturen.

En seriøs drøfting av AI-teknologiens innvirkning må derfor se utover de abstrakte egenskapene til modellene. Den må også ta for seg hvor infrastrukturen drives, hvordan den forsynes med strøm, hvor effektivt den kjøles ned og i hvilken grad operatørene rapporterer om ressursbruken på en åpen måte.