Hvorfor bruker AI så mye strøm?

AI-systemer svarer ikke fra en statisk liste med lagrede svar. Når en bruker sender en prompt, laster opp et bilde eller kaller et AI-API, kjører systemet matematiske operasjoner gjennom en trent modell for å produsere et resultat.

Disse operasjonene krever prosessorer, minne, nettverk og lagring. Én forespørsel kan være liten, men moderne AI-produkter kan håndtere enorm trafikk fra chatboter, søkeassistenter, kodeverktøy, bildegeneratorer og bedriftsapplikasjoner.

Derfor kan energibruk ikke skilles fra AI-infrastruktur. Det synlige kan være et kort svar på en skjerm, men bak ligger brikker, servere, datasentre, kjøling og kraftsystemer som gjør fysisk arbeid.

Moderne AI er sterkt avhengig av GPU-er fordi nevrale nettverk innebærer mange beregninger som kan utføres parallelt. GPU-er er laget for slik parallell beregning og passer derfor bedre enn CPU-er for mange trenings- og inferenslaster.

Ulempen er at høyytelses GPU-servere trekker mye strøm, særlig når de kjører med høy utnyttelse i klynger. En stor AI-tjeneste kan koble mange akseleratorer sammen med raske nettverk slik at de kan dele data og holde beregninger synkronisert.

Det betyr ikke at GPU-er er ineffektive for AI. I mange tilfeller er de det effektive valget for oppgaven. Men fordi oppgavene er store og kontinuerlige, blir GPU-klynger en av de mest synlige kildene til AI-ens strømbehov.

Trening er fasen der en modell lærer fra data. Store treningskjøringer kan behandle enorme datasett gjennom mange gjentatte steg og justere milliarder av parametere til modellen blir nyttig for prediksjon, generering eller klassifisering.

Dette arbeidet kan holde store GPU-klynger i gang i dager, uker eller lenger. Energibehovet er konsentrert fordi mange akseleratorer, lagringssystemer og nettverk arbeider sammen under samme treningsjobb.

Trening er ikke den eneste delen av AI-ens energibruk, men den er viktig fordi utvikling av frontmodeller, eksperimentering og ny trening kan kreve intense strømtopper og betydelig datasenterkapasitet.

Inferens er fasen der en trent modell brukes. Hver ChatGPT-lignende respons, bildegenerering, oversettelse, anbefaling, oppsummering eller kodeforslag krever inferensberegning.

I motsetning til trening skjer inferens hver gang folk bruker utrullede AI-systemer. Hvis en tjeneste håndterer millioner eller milliarder av prompter, bildeforespørsler og API-kall, kan små energimengder per forespørsel bli et betydelig daglig behov.

Derfor er AI-ens energibruk stadig mer knyttet til bruk. Jo mer AI bygges inn i søk, kontorverktøy, programvareutvikling, kundestøtte, medieproduksjon og mobilenheter, desto mer inferensinfrastruktur må kjøre kontinuerlig.

AI-maskinvare kjører inne i datasentre, og GPU-er er bare én del av strømregnskapet. Servere trenger minne, lagring, nettverksutstyr, strømforsyninger og reservesystemer. Data må flyttes mellom maskiner, rack og noen ganger regioner.

Kjøling betyr også mye. Tette AI-servere genererer mye varme, så anlegg bruker luftkjøling, væskekjøling, kjølemaskiner, pumper, vifter eller varmevekslere for å holde utstyret innen sikre temperaturer.

Datasentereffektivitet oppsummeres ofte med power usage effectiveness, PUE. Lavere PUE betyr at mer av strømmen brukes av beregningsutstyr i stedet for anleggets overhead, men ingen store datasentre opererer uten støtteenergi.

Offentlige estimater varierer fordi de fleste AI-leverandører ikke offentliggjør fullstendig sanntids energibruk per modell, produkt eller forespørselstype. Forskere og analytikere må ofte kombinere offentlige brukssignaler, maskinvareantakelser, modellstørrelser og effektivitetsintervaller for datasentre.

Resultatet avhenger av mange variabler: modellstørrelse, antall tokens, bildeoppløsning, maskinvaregenerasjon, utnyttelse, batching, minnebåndbredde, geografisk plassering, strøm miks og om systemet trener, leverer inferens eller står inaktivt.

Derfor bør tall for AI-strøm vanligvis behandles som retningsgivende estimater, ikke eksakte offisielle målinger. Det nyttige spørsmålet er ofte ikke ett enkelt tall, men hvilke faktorer som får energibruken til å stige eller falle.

AI kan bli mer effektiv på nivå med en sammenlignbar oppgave. Bedre brikker, forbedrede modellarkitekturer, kvantisering, caching, batching, destillering og ruting til mindre modeller kan redusere beregningen som trengs for nyttige resultater.

Datasentre kan også bli bedre med mer effektiv kjøling, høyere maskinvareutnyttelse, renere strømanskaffelse og mer effektiv strømfordeling. Slike forbedringer reduserer svinn og kan senke energi per forespørsel.

Det vanskeligere spørsmålet er total etterspørsel. Hvis effektiviteten øker, men AI-bruken vokser raskere, kan totalt strømforbruk fortsatt øke. Et balansert perspektiv må følge begge sider: effektivitet per oppgave og omfanget av global AI-adopsjon.