Co je to datové centrum pro umělou inteligenci?

Datové centrum pro umělou inteligenci je specializované zařízení, v němž je umístěno výpočetní vybavení potřebné k vývoji, nasazení a provozu systémů umělé inteligence. Může sloužit k trénování modelů, inferenci, zpracování dat, vyhledávacím asistentům, generování obrázků, doporučovacím systémům nebo podnikovým aplikacím umělé inteligence.

Pojem „datové centrum“ může vyvolávat dojem, že se jedná o abstraktní infrastrukturu, ale ve skutečnosti jde o fyzické budovy napojené na elektrické sítě, optické sítě, chladicí systémy a infrastrukturu pro odvod vody či tepla. Umělá inteligence se sice může jevit jako software, ale ve skutečnosti závisí na reálných strojích umístěných na konkrétních místech.

Běžné cloudové datové centrum dokáže zpracovávat mnoho různých typů úloh. Datové centrum pro umělou inteligenci je obvykle optimalizováno pro velmi intenzivní výpočty, zejména pro klastry grafických procesorů (GPU) nebo akcelerátorů, které provádějí obrovské množství paralelních matematických operací.

Jádrem celého systému jsou řady serverů. V zařízeních pro umělou inteligenci je mnoho z těchto serverů vybaveno grafickými procesory (GPU), akcelerátory pro umělou inteligenci, pamětí s vysokou šířkou pásma a specializovanými síťovými kartami. Tyto stroje jsou navrženy tak, aby rychle přenášely data a efektivně prováděly maticové výpočty.

Kolem výpočetního hardwaru se nachází rozsáhlejší podpůrný systém: úložiště pro datové sady a kontrolní body modelů, síťové přepínače, optická připojení, zařízení pro přeměnu elektrické energie, záložní systémy, monitorování, hasicí systémy a fyzická bezpečnost.

Chlazení je stejně důležité jako samotné výpočty. Výkonný hardware pro umělou inteligenci neustále produkuje teplo, a proto se v těchto zařízeních v závislosti na konstrukci a místních podmínkách využívá vzduchové chlazení, kapalinové chlazení, chladicí jednotky, čerpadla, chladicí věže nebo výměníky tepla.

Hlavním rozdílem je intenzita a charakter pracovního zatížení. Trénování umělé inteligence může po dlouhou dobu plně vytěžovat tisíce akcelerátorů, zatímco systémy pro inferenci musí rychle reagovat na uživatelské příkazy, volání API, doporučení nebo generované obrázky.

AI klastry také vyžadují extrémně rychlou komunikaci mezi stroji. Během trénování si grafické procesory neustále vyměňují gradienty a data modelu. Během inferenční fáze musí servery načítat váhy modelu, zpracovávat kontext a vracet výstupy s nízkou latencí.

Díky této kombinaci čipů s vysokou hustotou, vysokého příkonu, rychlého síťového připojení a řízení tepla klade infrastruktura umělé inteligence vyšší nároky než mnoho tradičních webových či podnikových úloh.

Trénování je fáze, během níž se model učí z dat. Může vyžadovat rozsáhlé datové sady, dlouhé výpočetní cykly, opakované výpočty a součinnost skupin grafických procesorů (GPU). Jedná se často o nejviditelnější typ výpočetního zatížení v oblasti umělé inteligence, protože vyvolává velkou a soustředěnou poptávku po infrastruktuře.

Inference je fáze, ve které se využívá vycvičený model. Každá odpověď chatbota, generování obrázku, reakce vyhledávacího asistenta nebo požadavek na klasifikaci probíhá v rámci inference. Jeden požadavek může být malý, ale celosvětové využití vytváří neustálou poptávku.

Mnohá datová centra pro umělou inteligenci podporují obě fáze, i když ne vždy stejným způsobem. Při trénování jde především o velké synchronizované clustery, zatímco při inferenci hraje klíčovou roli latence, dostupnost, směrování, dávkové zpracování a náklady na jeden požadavek.

Hardware pro umělou inteligenci spotřebovává elektřinu a téměř veškerá tato elektřina se nakonec přemění na teplo. Zařízení proto potřebuje dostatečný přísun energie k provozu zařízení a dostatečnou chladicí kapacitu k spolehlivému odvádění tepla.

Právě proto se o datových centrech pro umělou inteligenci často hovoří v megawattech či gigawattech, a nikoli pouze v metrech čtverečních. Omezujícím faktorem může být spíše připojení k rozvodné síti, transformátory, záložní zdroje energie, chladicí voda, odvod tepla nebo místní povolení než samotná plocha pozemku.

Lepší čipy, kapalinové chlazení a efektivnější návrh datových center mohou snížit spotřebu energie na jeden úkol, celková spotřeba však může i tak růst, pokud se využití umělé inteligence bude rozšiřovat rychleji, než se zlepší energetická účinnost.

Datová centra pro umělou inteligenci se budují tam, kde mohou provozovatelé kombinovat dostupnost elektrické energie, pozemků, optických připojení, možností chlazení, daňových podmínek a podmínek pro získání povolení, dostupnosti pracovní síly a blízkosti uživatelů či cloudových regionů.

Některá místa jsou veřejně označována jako superpočítačová centra pro umělou inteligenci nebo jako lokality s infrastrukturou pro umělou inteligenci. Jiná představují obecné hyperscale cloudové regiony, které mohou zpracovávat úlohy v oblasti umělé inteligence, ale nejsou veřejně spojovány s žádným konkrétním modelem či produktem.

Obecný přehled pro zájemce, kteří si chtějí nejprve vše pečlivě zvážit, najdete v souvisejícím seznamu: Kde se nacházejí datová centra pro umělou inteligenci?.

Datová centra pro umělou inteligenci jsou důležitá, protože propojují každodenní využití umělé inteligence s fyzickou infrastrukturou. Zadání příkazu na notebooku nebo telefonu může spustit výpočetní operace na serverech s grafickými procesory (GPU), které jsou závislé na elektřině, chlazení, vodě, čipech, pozemcích a sítích.

Jsou důležité i pro místní komunity. Velká zařízení mohou přinést investice a pracovní místa, ale mohou také vyvolat otázky ohledně kapacity rozvodné sítě, spotřeby vody, využívání půdy, hluku, emisí, transparentnosti a toho, kdo uhradí náklady na podpůrnou infrastrukturu.

Seriozní diskuse o dopadech umělé inteligence se proto musí zaměřit i na jiné aspekty než jen na abstraktní schopnosti modelů. Musí zohlednit, kde je infrastruktura provozována, jakým způsobem je napájena, jak efektivně je chlazena a do jaké míry její provozovatelé transparentně informují o využívání zdrojů.