Wat is een AI-datacenter?

Een AI-datacentrum is een gespecialiseerde faciliteit waarin de computerapparatuur is ondergebracht die nodig is voor het bouwen, implementeren en exploiteren van kunstmatige-intelligentiesystemen. Het kan worden ingezet voor het trainen van modellen, inferentie, gegevensverwerking, zoekassistenten, het genereren van afbeeldingen, aanbevelingssystemen of AI-toepassingen voor bedrijven.

Het woord ‘datacenter’ kan de infrastructuur nogal abstract doen klinken, maar het gaat hier om fysieke gebouwen die zijn aangesloten op elektriciteitsnetten, glasvezelnetwerken, koelsystemen en infrastructuur voor watertoevoer of warmteafvoer. AI lijkt misschien op software, maar het is afhankelijk van echte machines op echte locaties.

Een conventioneel clouddatacenter kan vele soorten workloads verwerken. Een AI-datacenter is doorgaans geoptimaliseerd voor zeer intensieve rekenkracht, met name GPU- of acceleratorclusters die enorme aantallen parallelle wiskundige bewerkingen uitvoeren.

De zichtbare kern bestaat uit serverrekken. In AI-faciliteiten zijn veel van die servers uitgerust met GPU’s, AI-versnellers, geheugen met hoge bandbreedte en gespecialiseerde netwerkkaarten. Deze machines zijn ontworpen om gegevens snel te verwerken en matrixberekeningen efficiënt uit te voeren.

Rondom de computerhardware bevindt zich een uitgebreider ondersteunend systeem: opslagruimte voor datasets en modelcheckpoints, netwerkswitches, glasvezelverbindingen, stroomomvormers, back-upsystemen, monitoring, brandblussystemen en fysieke beveiliging.

Koeling is net zo belangrijk als rekenkracht. Krachtige AI-hardware produceert voortdurend warmte, dus maken faciliteiten gebruik van luchtkoeling, vloeistofkoeling, koelmachines, pompen, koeltorens of warmtewisselaars, afhankelijk van het ontwerp en de lokale omstandigheden.

Het belangrijkste verschil zit hem in de dichtheid en de aard van de werklast. Bij het trainen van AI kunnen duizenden versnellers gedurende lange perioden bezet zijn, terwijl inferentiesystemen snel moeten reageren op gebruikersopdrachten, API-aanroepen, aanbevelingen of gegenereerde afbeeldingen.

AI-clusters hebben ook behoefte aan uiterst snelle communicatie tussen machines. Tijdens het trainen wisselen GPU’s voortdurend gradiënten en modelgegevens uit. Tijdens de inferentie moeten servers modelgewichten laden, de context verwerken en resultaten terugsturen met een lage latentie.

Door deze combinatie van compacte chips, een hoog stroomverbruik, snelle netwerkverbindingen en warmtebeheer stelt AI-infrastructuur hogere eisen dan veel traditionele web- of bedrijfsworkloads.

Training is de fase waarin een model leert van gegevens. Hiervoor zijn vaak grote datasets, langdurige rekenprocessen, herhaalde berekeningen en clusters van GPU’s die samenwerken nodig. Dit is vaak de meest zichtbare vorm van AI-rekenkracht, omdat het een grote, geconcentreerde vraag naar infrastructuur met zich meebrengt.

Inferentie is de fase waarin een getraind model wordt gebruikt. Bij elk antwoord van een chatbot, elke afbeeldingsgeneratie, elke reactie van een zoekassistent of elk classificatieverzoek vindt inferentie plaats. Eén verzoek mag dan klein zijn, maar het wereldwijde gebruik zorgt voor een voortdurende vraag.

Veel AI-datacenters ondersteunen beide fasen, zij het niet altijd op dezelfde manier. Bij het trainen gaat het om grote, gesynchroniseerde clusters, terwijl bij inferentie de nadruk vooral ligt op latentie, beschikbaarheid, routing, batchverwerking en de kosten per verzoek.

AI-hardware heeft elektriciteit nodig, en bijna al die elektriciteit wordt uiteindelijk omgezet in warmte. Een faciliteit heeft daarom voldoende stroomvoorziening nodig om de apparatuur te laten draaien en voldoende koelcapaciteit om de warmte betrouwbaar af te voeren.

Daarom wordt bij AI-datacenters vaak gesproken in megawatt of gigawatt, en niet alleen in vierkante meters. De beperkende factor kan liggen bij de netaansluiting, transformatoren, noodstroomvoorziening, koelwater, warmteafvoer of lokale vergunningen, en niet alleen bij de beschikbare grond.

Betere chips, vloeistofkoeling en een efficiënter ontwerp van datacenters kunnen het energieverbruik per taak verminderen, maar de totale vraag kan nog steeds toenemen als het gebruik van AI sneller groeit dan de efficiëntie toeneemt.

AI-datacenters worden gebouwd op locaties waar exploitanten factoren als stroomvoorziening, grond, glasvezelverbindingen, koelingsmogelijkheden, fiscale en vergunningsvoorwaarden, beschikbaarheid van arbeidskrachten en de nabijheid van gebruikers of cloudregio’s kunnen combineren.

Sommige locaties worden publiekelijk aangeduid als AI-supercomputers of AI-infrastructuurlocaties. Andere zijn algemene hyperscale-cloudregio’s die AI-workloads kunnen uitvoeren, maar die niet publiekelijk aan één specifiek model of product zijn gekoppeld.

Voor een beknopt algemeen overzicht, zie de bijbehorende lijst: Waar bevinden zich AI-datacenters?.

AI-datacenters zijn van belang omdat ze het dagelijkse gebruik van AI koppelen aan de fysieke infrastructuur. Een opdracht op een laptop of telefoon kan rekenprocessen in GPU-servers in gang zetten, die afhankelijk zijn van elektriciteit, koeling, water, chips, grond en netwerken.

Ze zijn ook van belang voor lokale gemeenschappen. Grote installaties kunnen investeringen en banen opleveren, maar ze kunnen ook vragen oproepen over de capaciteit van het elektriciteitsnet, waterverbruik, landgebruik, geluidsoverlast, uitstoot, transparantie en de vraag wie de kosten voor de ondersteunende infrastructuur draagt.

Een serieuze discussie over de gevolgen van AI moet daarom verder kijken dan de abstracte mogelijkheden van het model. Daarbij moet ook worden gekeken naar waar de infrastructuur draait, hoe deze van stroom wordt voorzien, hoe efficiënt deze wordt gekoeld en in hoeverre de beheerders openheid betrachten over het gebruik van hulpbronnen.