Kaj je podatkovni center z umetno inteligenco?

Podatkovni center za umetno inteligenco je specializirana ustanova, v kateri se nahaja računalniška oprema, potrebna za razvoj, uvajanje in delovanje sistemov umetne inteligence. Lahko podpira usposabljanje modelov, sklepanje, obdelavo podatkov, iskalne pomočnike, ustvarjanje slik, sisteme priporočil ali poslovne aplikacije umetne inteligence.

Izraz »podatkovni center« lahko daje vtis, da gre za abstraktno infrastrukturo, vendar so to fizične stavbe, povezane z električnimi omrežji, optičnimi omrežji, hladilnimi sistemi ter infrastrukturo za odvod vode ali toplote. Umetna inteligenca se morda zdi kot programska oprema, vendar je odvisna od dejanskih strojev na dejanskih lokacijah.

Običajno oblačno podatkovno središče lahko izvaja različne vrste delovnih obremenitev. Podatkovno središče za umetno inteligenco je običajno optimizirano za zelo intenzivno računanje, zlasti za skupine grafičnih procesorjev (GPU) ali pospeševalnikov, ki izvajajo ogromno število vzporednih matematičnih operacij.

Osrednji del sestavljajo strežniške omare. V objektih za umetno inteligenco mnogi od teh strežnikov vsebujejo grafične procesne enote (GPU), pospeševalnike za umetno inteligenco, pomnilnik z visoko pasovno širino in specializirane omrežne kartice. Te naprave so zasnovane za hiter prenos podatkov in učinkovito izvajanje matričnih izračunov.

Okoli računalniške opreme se nahaja obsežen podporni sistem: prostori za shranjevanje podatkovnih naborov in kontrolnih točk modelov, omrežna stikala, optične povezave, oprema za pretvorbo električne energije, rezervni sistemi, nadzor, sistem za gašenje požara in fizična varnost.

Hlajenje je prav tako pomembno kot računalniške operacije. Visoko zmogljiva AI-oprema neprestano proizvaja toploto, zato se v objektih glede na zasnovo in lokalne razmere uporabljajo zračno hlajenje, tekoče hlajenje, hladilne naprave, črpalke, hladilni stolpi ali toplotni izmenjevalniki.

Glavna razlika je v gostoti in obliki delovne obremenitve. Usposabljanje umetne inteligence lahko tisoče pospeševalnikov zadržuje v delovanju dalj časa, medtem ko morajo sistemi za sklepanje hitro odgovarjati na uporabniške zahteve, klice API-ja, priporočila ali ustvarjene slike.

Tudi AI-sklopi potrebujejo izjemno hitro komunikacijo med napravami. Med usposabljanjem si grafične procesne enote (GPU) nenehno izmenjujejo gradiente in podatke modela. Med sklepanjem morajo strežniki naložiti uteži modela, obdelati kontekst in vrniti izhodne podatke z majhno zakasnitvijo.

Ta kombinacija gostih čipov, visoke porabe energije, hitrega omrežnega povezovanja in upravljanja s toploto pomeni, da je infrastruktura za umetno inteligenco zahtevnejša od mnogih tradicionalnih spletnih ali poslovnih delovnih obremenitev.

Usposabljanje je faza, v kateri se model uči iz podatkov. Za to so lahko potrebni obsežni nizi podatkov, dolgotrajno izvajanje, ponavljajoči se izračuni ter skupine grafičnih procesorjev (GPU), ki delujejo skupaj. To je pogosto najbolj opazna oblika računalniških zmogljivosti za umetno inteligenco, saj povzroča veliko in koncentrirano povpraševanje po infrastrukturi.

Inferenca je faza, v kateri se uporablja usposobljen model. Pri vsakem odgovoru klepetalnega robota, ustvarjanju slike, odgovoru iskalnega pomočnika ali zahtevi za razvrščanje poteka inferenca. Posamezna zahteva je morda majhna, vendar globalna uporaba ustvarja neprekinjeno povpraševanje.

Mnoga podatkovna središča za umetno inteligenco podpirajo obe fazi, čeprav ne vedno na enak način. Pri usposabljanju so pomembni veliki sinhronizirani klastri, medtem ko so pri sklepanju ključnega pomena zakasnitev, razpoložljivost, usmerjanje, obdelava v paketih in stroški na zahtevo.

Strojna oprema za umetno inteligenco potrebuje električno energijo, ki se skoraj v celoti pretvori v toploto. Zato mora objekt razpolagati z zadostno oskrbo z električno energijo za delovanje opreme ter z zadostno zmogljivostjo hlajenja za zanesljivo odvajanje toplote.

Zato se o podatkovnih centrih za umetno inteligenco pogosto govori v megavatih ali gigavatih, ne le v kvadratnih metrih. Omejevalni dejavnik so lahko priključitev na omrežje, transformatorji, rezervni viri energije, voda za hlajenje, odvod toplote ali lokalna dovoljenja, ne pa zgolj zemljišče.

Boljši čipi, tekoče hlajenje in učinkovitejša zasnova podatkovnih centrov lahko zmanjšajo porabo energije na posamezno nalogo, vendar se lahko skupna poraba kljub temu poveča, če se uporaba umetne inteligence širi hitreje, kot se izboljšuje učinkovitost.

Podatkovni centri za umetno inteligenco se gradijo tam, kjer lahko upravljavci združijo oskrbo z električno energijo, zemljišča, optične povezave, možnosti hlajenja, davčne pogoje in pogoje za pridobitev dovoljenj, razpoložljivost delovne sile ter bližino uporabnikov ali oblačnih regij.

Nekatere lokacije so javno opredeljene kot lokacije superračunalnikov za umetno inteligenco ali lokacije infrastrukture za umetno inteligenco. Druge so splošne oblačne regije hiperskalne velikosti, v katerih je mogoče izvajati delovne obremenitve umetne inteligence, vendar niso javno povezane z nobenim konkretnim modelom ali izdelkom.

Za splošen pregled, namenjen previdni javnosti, si oglejte spremljajoči seznam: Kje se nahajajo podatkovni centri za umetno inteligenco?.

Podatkovni centri za umetno inteligenco so pomembni, ker povezujejo vsakodnevno uporabo umetne inteligence s fizično infrastrukturo. Ukaz na prenosnem računalniku ali telefonu lahko sproži izračune v strežnikih z grafičnimi procesorji (GPU), ki so odvisni od električne energije, hlajenja, vode, čipov, zemljišč in omrežij.

Pomembni so tudi za lokalne skupnosti. Veliki objekti lahko prinesejo naložbe in delovna mesta, vendar lahko sprožijo vprašanja glede zmogljivosti omrežja, porabe vode, rabe zemljišč, hrupa, emisij, preglednosti ter tega, kdo krije stroške podporne infrastrukture.

Resna razprava o vplivu umetne inteligence mora zato segati onkraj abstraktnih zmogljivosti modelov. Vključevati mora tudi to, kje infrastruktura deluje, kako se napaja, kako učinkovito se hladi in kako pregledno njeni upravljavci poročajo o porabi virov.