Waarom verbruikt AI zoveel elektriciteit?

AI-systemen antwoorden niet vanuit een statische lijst met opgeslagen reacties. Wanneer een gebruiker een prompt stuurt, een afbeelding uploadt of een AI-API aanroept, voert het systeem wiskundige bewerkingen uit door een getraind model om een uitvoer te produceren.

Daarvoor zijn processors, geheugen, netwerken en opslag nodig. Eén verzoek kan klein zijn, maar moderne AI-producten verwerken enorme hoeveelheden verkeer via chatbots, zoekassistenten, programmeertools, beeldgeneratoren en zakelijke toepassingen.

Daarom is energiegebruik onlosmakelijk verbonden met AI-infrastructuur. Wat zichtbaar is, kan een kort antwoord op een scherm zijn, maar daarachter werken chips, servers, datacenters, koeling en energiesystemen fysiek.

Moderne AI leunt sterk op GPU’s omdat neurale netwerken veel berekeningen bevatten die parallel kunnen worden uitgevoerd. GPU’s zijn ontworpen voor dit soort parallel rekenwerk en zijn voor veel training- en inferentietaken geschikter dan CPU’s.

De keerzijde is dat krachtige GPU-servers veel vermogen vragen, vooral wanneer ze in clusters met hoge benutting draaien. Een grote AI-implementatie kan veel accelerators via snelle netwerken verbinden om gegevens te delen en berekeningen synchroon te houden.

Dat betekent niet dat GPU’s inefficiënt zijn voor AI. Vaak zijn ze juist de efficiënte keuze voor de taak. Maar omdat de taken groot en continu zijn, worden GPU-clusters een van de zichtbaarste bronnen van AI-elektriciteitsvraag.

Training is de fase waarin een model leert van data. Grote trainingsruns kunnen enorme datasets in veel herhaalde stappen verwerken en miljarden parameters aanpassen tot het model bruikbaar is voor voorspellen, genereren of classificeren.

Dit werk kan grote GPU-clusters dagen, weken of langer laten draaien. De energievraag is geconcentreerd doordat veel accelerators, opslagsystemen en netwerken tegelijk werken binnen dezelfde trainingstaak.

Training is niet het enige deel van AI-energiegebruik, maar het is belangrijk omdat frontiermodellen, experimenten en hertraining intense pieken in elektriciteitsvraag en veel datacentercapaciteit kunnen vereisen.

Inferentie is de fase waarin een getraind model wordt gebruikt. Elke ChatGPT-achtige reactie, beeldgeneratie, vertaling, aanbeveling, samenvatting of codesuggestie vereist inferentieberekeningen.

In tegenstelling tot training gebeurt inferentie telkens wanneer mensen uitgerolde AI-systemen gebruiken. Als een dienst miljoenen of miljarden prompts, beeldverzoeken en API-calls verwerkt, kunnen kleine hoeveelheden energie per verzoek optellen tot een aanzienlijke dagelijkse vraag.

Daarom hangt AI-energiegebruik steeds meer samen met adoptie. Hoe meer AI in zoekmachines, kantoorsoftware, softwareontwikkeling, klantenservice, mediaproductie en mobiele apparaten zit, hoe meer inferentie-infrastructuur continu moet draaien.

AI-hardware draait in datacenters, en GPU’s zijn slechts een deel van het elektriciteitsverhaal. Servers hebben geheugen, opslag, netwerkapparatuur, voedingen en back-upsystemen nodig. Data moet bewegen tussen machines, racks en soms regio’s.

Koeling speelt ook een grote rol. AI-servers met hoge dichtheid produceren veel warmte, dus faciliteiten gebruiken luchtkoeling, vloeistofkoeling, chillers, pompen, ventilatoren of warmtewisselaars om apparatuur binnen veilige temperaturen te houden.

De efficiëntie van datacenters wordt vaak samengevat met power usage effectiveness, of PUE. Een lagere PUE betekent dat meer elektriciteit naar rekenapparatuur gaat in plaats van gebouw-overhead, maar geen groot datacenter werkt zonder ondersteunende energie.

Publieke schattingen verschillen omdat de meeste AI-aanbieders geen volledig realtime energiegebruik per model, product of type verzoek openbaar maken. Onderzoekers en analisten combineren daarom publieke adoptiesignalen, hardwareaannames, modelschattingen en efficiëntieranges van datacenters.

Het resultaat hangt af van veel variabelen: modelgrootte, aantal tokens, beeldresolutie, hardwaregeneratie, benutting, batching, geheugenbandbreedte, locatie, elektriciteitsmix en of het systeem traint, inferentie levert of inactief is.

Daarom moeten cijfers over AI-elektriciteit meestal worden gezien als richtinggevende schattingen, niet als exacte officiële metingen. De nuttige vraag is vaak niet één getal, maar welke factoren energiegebruik doen stijgen of dalen.

AI kan efficiënter worden voor een vergelijkbare taak. Betere chips, modelarchitecturen, quantisatie, caching, batching, distillatie en routering naar kleinere modellen kunnen de benodigde berekening voor bruikbare output verminderen.

Datacenters kunnen ook verbeteren met betere koeling, hogere hardwarebenutting, schonere elektriciteitsinkoop en efficiëntere stroomverdeling. Dat vermindert verspilling en kan energie per verzoek verlagen.

De moeilijkere vraag is de totale vraag. Als efficiëntie verbetert maar AI-gebruik sneller groeit, kan het totale elektriciteitsverbruik nog steeds toenemen. Een evenwichtige blik volgt beide kanten: efficiëntie per taak en de schaal van wereldwijde AI-adoptie.