Čo je to dátové centrum umelej inteligencie?

Dátové centrum umelej inteligencie je špecializované zariadenie, v ktorom sa nachádza výpočtová technika potrebná na vytváranie, nasadzovanie a prevádzku systémov umelej inteligencie. Môže slúžiť na trénovanie modelov, inferenciu, spracovanie údajov, vyhľadávacie asistenty, generovanie obrázkov, odporúčacie systémy alebo podnikové aplikácie umelej inteligencie.

Pojem „dátové centrum“ môže pôsobiť dojmom, že ide o nejakú abstraktnú infraštruktúru, no v skutočnosti sa jedná o fyzické budovy napojené na elektrické siete, optické siete, chladiace systémy a infraštruktúru na odvod vody alebo tepla. Umelá inteligencia sa síce môže javiť ako softvér, no v skutočnosti závisí od reálnych strojov umiestnených na konkrétnych miestach.

Bežné cloudové dátové centrum dokáže spracovávať mnoho rôznych typov pracovných úloh. Dátové centrum zamerané na umelú inteligenciu je zvyčajne optimalizované na veľmi intenzívne výpočty, najmä na klastre grafických procesorov (GPU) alebo akcelerátorov, ktoré vykonávajú obrovské množstvo paralelných matematických operácií.

Jadrom celého systému sú rady serverov. V zariadeniach určených pre umelú inteligenciu mnohé z týchto serverov obsahujú grafické procesory (GPU), akcelerátory umelej inteligencie, pamäť s vysokou šírkou pásma a špecializované sieťové karty. Tieto zariadenia sú navrhnuté tak, aby rýchlo prenášali dáta a efektívne vykonávali maticové výpočty.

Okolo výpočtového hardvéru sa nachádza rozsiahlejší podporný systém: úložisko pre dátové súbory a kontrolné body modelov, sieťové prepínače, optické pripojenia, zariadenia na konverziu elektrickej energie, záložné systémy, monitorovanie, protipožiarne zariadenia a fyzická bezpečnosť.

Chladenie je rovnako dôležité ako samotné výpočty. Výkonný hardvér pre umelú inteligenciu neustále produkuje teplo, a preto sa v zariadeniach v závislosti od konštrukcie a miestnych podmienok využíva vzduchové chladenie, kvapalinové chladenie, chladiace jednotky, čerpadlá, chladiace veže alebo výmenníky tepla.

Hlavným rozdielom je hustota a charakter pracovného zaťaženia. Trénovanie umelej inteligencie môže na dlhú dobu vyťažiť tisíce akcelerátorov, zatiaľ čo inferenčné systémy musia rýchlo reagovať na požiadavky používateľov, volania API, odporúčania alebo generované obrázky.

Klastre umelej inteligencie tiež vyžadujú mimoriadne rýchlu komunikáciu medzi zariadeniami. Počas trénovania si grafické procesory neustále vymieňajú gradienty a údaje o modeli. Počas inferencie musia servery načítať váhy modelu, spracovať kontext a vrátiť výstupy s nízkou latenciou.

Táto kombinácia hustých čipov, vysokého odberu energie, rýchlej sieťovej komunikácie a riadenia tepla spôsobuje, že infraštruktúra umelej inteligencie kladie vyššie nároky než mnohé tradičné webové alebo podnikové pracovné zaťaženia.

Trénovanie je fáza, počas ktorej sa model učí na základe údajov. Môže si vyžadovať rozsiahle dátové súbory, dlhé výpočtové cykly, opakované výpočty a zoskupenia grafických procesorov (GPU) pracujúcich spoločne. Ide často o najviditeľnejší typ výpočtov v oblasti umelej inteligencie, pretože vytvára veľký a koncentrovaný dopyt po infraštruktúre.

Inferencia je fáza, v ktorej sa využíva vytrénovaný model. Každá odpoveď chatbota, generovanie obrázku, reakcia vyhľadávacieho asistenta alebo požiadavka na klasifikáciu prebieha prostredníctvom inferencie. Jedna požiadavka môže byť malá, ale celosvetové využívanie vytvára neustály dopyt.

Mnohé dátové centrá pre umelú inteligenciu podporujú obe fázy, hoci nie vždy rovnakým spôsobom. Pri trénovaní ide predovšetkým o veľké synchronizované klastre, zatiaľ čo pri inferencii sa kladie veľký dôraz na latenciu, dostupnosť, smerovanie, spracovanie v dávkach a náklady na jednu požiadavku.

Hardvér pre umelú inteligenciu spotrebúva elektrickú energiu a takmer celá táto energia sa nakoniec premieňa na teplo. Zariadenie preto potrebuje dostatočný prísun elektrickej energie na prevádzku zariadení a dostatočnú chladiacu kapacitu na spoľahlivé odvádzanie tepla.

Preto sa o dátových centrách pre umelú inteligenciu často hovorí v megawattoch alebo gigawattoch, a nie len v metroch štvorcových. Obmedzujúcim faktorom môže byť skôr pripojenie k elektrickej sieti, transformátory, záložné zdroje energie, chladiaca voda, odvod tepla alebo miestne povolenia než samotný pozemok.

Kvalitnejšie čipy, kvapalinové chladenie a efektívnejšia konštrukcia dátových centier môžu znížiť spotrebu energie na jednu úlohu, celková spotreba však môže aj tak rásť, ak sa využitie umelej inteligencie bude rozširovať rýchlejšie, ako sa bude zvyšovať efektívnosť.

Dátové centrá pre umelú inteligenciu sa budujú tam, kde môžu prevádzkovatelia skombinovať dodávky elektrickej energie, pozemky, optické pripojenie, možnosti chladenia, daňové podmienky a podmienky týkajúce sa povolení, dostupnosť pracovnej sily a blízkosť k používateľom alebo cloudovým regiónom.

Niektoré lokality sú verejne označené ako superpočítače pre umelú inteligenciu alebo zariadenia infraštruktúry pre umelú inteligenciu. Iné sú všeobecné cloudové regióny hyperscale, ktoré dokážu spracovávať úlohy umelej inteligencie, ale nie sú verejne spojené s jedným konkrétnym modelom alebo produktom.

Pre všeobecný prehľad si pozrite sprievodný zoznam: Kde sa nachádzajú dátové centrá umelej inteligencie?.

Dátové centrá pre umelú inteligenciu sú dôležité, pretože spájajú každodenné využívanie umelej inteligencie s fyzickou infraštruktúrou. Zadanie príkazu na notebooku alebo telefóne môže spustiť výpočty na serveroch s grafickými procesormi (GPU), ktoré sú závislé od elektrickej energie, chladenia, vody, čipov, pozemkov a sietí.

Majú tiež význam pre miestne komunity. Veľké zariadenia môžu priniesť investície a pracovné miesta, môžu však vyvolať otázky týkajúce sa kapacity elektrickej siete, spotreby vody, využívania pôdy, hluku, emisií, transparentnosti a toho, kto bude hradiť náklady na podpornú infraštruktúru.

Seriózna diskusia o vplyve umelej inteligencie sa preto nesmie obmedzovať len na abstraktné schopnosti modelov. Musí zohľadňovať aj to, kde infraštruktúra beží, akým spôsobom je napájaná, ako efektívne je chladená a do akej miery jej prevádzkovatelia otvorene informujú o využívaní zdrojov.