Sisukord
Tehisintellekti andmekeskus on koht, kus tehisintellekt töötab
Tehisintellekti andmekeskus on spetsialiseeritud rajatis, kus asuvad tehisintellekti süsteemide loomiseks, kasutuselevõtuks ja käitamiseks vajalikud arvutiseadmed. See võib toetada mudelite koolitamist, järelduste tegemist, andmetöötlust, otsingut abistavaid funktsioone, piltide genereerimist, soovitussüsteeme või ettevõtte tehisintellekti rakendusi.
Sõna „andmekeskus“ võib infrastruktuuri abstraktsena kõlada, kuid tegemist on füüsiliste hoonetega, mis on ühendatud elektrivõrkude, kiudoptiliste võrkude, jahutussüsteemide ning vee- või soojuse ärajuhtimise infrastruktuuriga. Tehisintellekt võib tunduda tarkvarana, kuid see sõltub reaalsetest masinatest reaalsetes kohtades.
Tavapärane pilvandmekeskus suudab käitada mitmesuguseid töökoormusi. Tehisintellekti andmekeskus on tavaliselt optimeeritud väga tiheda arvutuskoormuse jaoks, eriti GPU- või kiirendiklastrite jaoks, mis teostavad tohutut hulka paralleelseid matemaatilisi operatsioone.
Mis asub tehisintellekti andmekeskuses?
Nähtav tuum koosneb serverirestidest. Tehisintellekti rajatistes sisaldavad paljud neist serveritest graafikaprotsessoreid (GPU-sid), tehisintellekti kiirendajaid, suure läbilaskevõimega mälu ja spetsiaalseid võrgukaarte. Need seadmed on loodud andmete kiireks edastamiseks ja maatriksarvutuste tõhusaks sooritamiseks.
Arvutusriistvara ümber on välja ehitatud ulatuslik tugisüsteem: andmekogumite ja mudelite vahepunktide salvestusruum, võrgukommutaatorid, kiudoptilised ühendused, toiteallikad, varusüsteemid, seire, tulekustutussüsteemid ja füüsiline turvalisus.
Jahutus on sama oluline kui arvutamine. Tihe AI-riistvara toodab pidevalt soojust, mistõttu kasutatakse rajatistes sõltuvalt konstruktsioonist ja kohalikest tingimustest õhujahutust, vedeljahutust, jahutusseadmeid, pumbasid, jahutustorne või soojusvahetajaid.
Mis teeb tehisintellekti andmekeskuse eriliseks?
Peamine erinevus seisneb tiheduses ja töökoormuse iseloomus. Tehisintellekti treenimine võib hoida tuhandeid kiirendajaid pikka aega hõivatuna, samas kui järeldussüsteemid peavad reageerima kiiresti kasutajate sisestustele, API-kõnedele, soovitustele või genereeritud piltidele.
Tehisintellekti klastrid vajavad ka masinatevahelist äärmiselt kiiret andmesidet. Õppimise ajal vahetavad graafikaprotsessorid pidevalt gradiente ja mudeliandmeid. Järelduste tegemise ajal peavad serverid laadima mudeli kaalud, töötlema konteksti ja tagastama väljundid väikese viivitusega.
Selline kombinatsioon tihedalt paigutatud kiipidest, suurest energiatarbimisest, kiirest võrgustikust ja soojuse juhtimisest muudab tehisintellekti infrastruktuuri nõudlikumaks kui paljud traditsioonilised veebi- või ettevõtte töökoormused.
Tehisintellekti andmekeskused toetavad mudelite treenimist ja järelduste tegemist
Õppimine on etapp, mille jooksul mudel õpib andmetest. See võib nõuda suuri andmekogumeid, pikki töötamisaegu, korduvaid arvutusi ja koos töötavaid GPU-klastreid. See on sageli kõige silmatorkavam tehisintellekti arvutusülesanne, kuna tekitab suurt ja kontsentreeritud infrastruktuurinõudlust.
Järeldamine on etapp, kus kasutatakse treenitud mudelit. Iga chatboti vastus, pildi genereerimine, otsingusüsteemi vastus või klassifitseerimispäring käivitab järeldamisprotsessi. Üks päring võib olla väike, kuid ülemaailmne kasutamine tekitab pidevat nõudlust.
Paljud tehisintellekti andmekeskused toetavad mõlemat etappi, kuigi mitte alati samal viisil. Õppimise puhul on olulised suured sünkroniseeritud klastrid, samas kui järelduste tegemisel on väga olulised viivitus, kättesaadavus, marsruutimine, partiide moodustamine ja päringu kohta kuluv maksumus.
Iga tehisintellekti andmekeskuse kujundavad toiteallikas ja jahutus
Tehisintellekti riistvara vajab elektrit, ja peaaegu kogu see elekter muutub lõpuks soojuseks. Seetõttu peab rajatisel olema piisav elektrivarustus seadmete töötamiseks ning piisav jahutusvõimsus soojuse usaldusväärseks eemaldamiseks.
Seetõttu räägitakse tehisintellekti andmekeskustest sageli megavattides või gigavattides, mitte ainult ruutmeetrites. Piiravaks teguriks võivad olla pigem võrguühendus, trafod, varugeneraatorid, jahutusvesi, soojuse ärajuhtimine või kohalikud load kui üksnes maa-ala.
Paremad kiibid, vedelikjahutus ja tõhusam andmekeskuse disain võivad vähendada ühe ülesande kohta kuluvat energiat, kuid kogunõudlus võib siiski kasvada, kui tehisintellekti kasutamine laieneb kiiremini kui tõhusus paraneb.
Kuhu ehitatakse tehisintellekti andmekeskused?
Tehisintellekti andmekeskused rajatakse kohtadesse, kus operaatorid saavad ühendada omavahel elektrienergia, maa-ala, kiudoptilise ühenduse, jahutusvõimalused, maksustamis- ja lubade andmise tingimused, tööjõu kättesaadavuse ning läheduse kasutajatele või pilveteenuste piirkondadele.
Mõned asukohad on avalikult määratletud tehisintellekti superarvutite või tehisintellekti infrastruktuuri asukohtadena. Teised on üldised hüperskaalalised pilveteenuste piirkonnad, kus on võimalik tehisintellekti töökoormusi käitada, kuid mida ei seostata avalikult ühegi konkreetse mudeli või tootega.
Üldise ülevaate saamiseks vaadake kaasnevat nimekirja: Kus asuvad tehisintellekti andmekeskused?.
Miks on tehisintellekti andmekeskused olulised?
Tehisintellekti andmekeskused on olulised, sest need ühendavad igapäevase tehisintellekti kasutamise füüsilise infrastruktuuriga. Sülearvutis või nutitelefonis kuvatav käsk võib käivitada arvutustegevuse GPU-serverites, mis sõltuvad elektrist, jahutusest, veest, kiipidest, maast ja võrkudest.
Need on olulised ka kohalikele kogukondadele. Suured rajatised võivad tuua kaasa investeeringuid ja töökohti, kuid samas võivad tekitada küsimusi seoses võrgu läbilaskevõime, veekasutuse, maakasutuse, müra, heitkoguste, läbipaistvuse ning sellega, kes katab tugitaristu kulud.
Seetõttu peab tõsine arutelu tehisintellekti mõju üle ulatuma kaugemale abstraktsetest mudelite võimekustest. See peab hõlmama ka seda, kus infrastruktuur töötab, kuidas seda toidetakse, kui tõhusalt seda jahutatakse ja kui avatult selle käitajad ressursside kasutamisest aru annavad.