TheAIMeters Logo

Kas yra dirbtinio intelekto duomenų centras?

Dirbtinio intelekto duomenų centras – tai fizinis objektas, skirtas vykdyti didelio masto dirbtinio intelekto užduotis, įskaitant modelių mokymą, išvadų darymą, paieškos asistentus, vaizdų generavimą ir įmonėms skirtas dirbtinio intelekto paslaugas.

Cutaway illustration of an AI data center with GPU servers, networking, storage, cooling and power delivery
Dirbtinio intelekto duomenų centras apjungia GPU serverius, sparčius tinklus, duomenų saugyklas, elektros tiekimo ir aušinimo sistemas, kad būtų galima vykdyti mokymo ir išvadų darymo užduotis dideliu mastu.

Svarbiausia išvada

Dirbtinio intelekto duomenų centras – tai ne tik sandėlis, pilnas serverių. Tai didelio tankio skaičiavimo įrenginys, suprojektuotas atsižvelgiant į GPU, greitą tinklo ryšį, energijos tiekimą, aušinimą ir patikimumą, kad dirbtinio intelekto modelius būtų galima mokyti ir kad jais galėtų naudotis milijonai žmonių.

Turinys

Dirbtinio intelekto duomenų centras – tai vieta, kurioje veikia dirbtinis intelektas

Dirbtinio intelekto duomenų centras – tai specializuotas objektas, kuriame įrengta kompiuterinė įranga, reikalinga dirbtinio intelekto sistemų kūrimui, diegimui ir eksploatavimui. Jis gali būti naudojamas modelių mokymui, išvadų darymui, duomenų apdorojimui, paieškos asistentams, vaizdų generavimui, rekomendacinių sistemų veikimui arba įmonių dirbtinio intelekto programoms.

Žodis „duomenų centras“ gali sukelti įspūdį, kad infrastruktūra yra abstrakti, tačiau tai yra fiziniai pastatai, prijungti prie elektros tinklų, šviesolaidinių tinklų, aušinimo sistemų ir vandens arba šilumos šalinimo infrastruktūros. Dirbtinis intelektas gali atrodyti kaip programinė įranga, tačiau jis priklauso nuo realių mašinų, esančių realiose vietose.

Įprastinis debesų duomenų centras gali apdoroti įvairių tipų darbo krūvius. Dirbtinio intelekto duomenų centras paprastai yra optimizuotas labai intensyviems skaičiavimams, ypač GPU arba greitintuvų klasteriams, kurie atlieka milžinišką skaičių lygiagrečių matematinių operacijų.

Kas yra dirbtinio intelekto duomenų centre?

Pagrindinę dalį sudaro serverių stelažai. Dirbtinio intelekto įrenginiuose daugelis šių serverių turi GPU, dirbtinio intelekto pagreitintuvus, didelės pralaidumo atmintį ir specializuotas tinklo plokštes. Šios mašinos yra sukurtos greitai perduoti duomenis ir efektyviai atlikti matricos skaičiavimus.

Aplink skaičiavimo įrangą veikia platesnė pagalbinė sistema: duomenų rinkinių ir modelių kontrolinių taškų saugykla, tinklo komutatoriai, šviesolaidiniai ryšiai, elektros energijos keitimo įranga, atsarginės sistemos, stebėjimo įranga, gaisro gesinimo įranga ir fizinė apsauga.

Aušinimas yra lygiai toks pat svarbus kaip ir skaičiavimai. Tankiai išdėstyta dirbtinio intelekto įranga nuolat skleidžia šilumą, todėl, priklausomai nuo konstrukcijos ir vietos sąlygų, įrenginiuose naudojamas oro aušinimas, skysčio aušinimas, šaldymo agregatai, siurbliai, aušinimo bokštai arba šilumokaičiai.

Kuom skiriasi dirbtinio intelekto duomenų centras?

Pagrindinis skirtumas yra apkrovos tankis ir pobūdis. Dirbtinio intelekto mokymo procesas gali ilgą laiką užimti tūkstančius pagreitintuvų, o išvados darymo sistemos turi greitai reaguoti į vartotojų užklausas, API iškvietimus, rekomendacijas ar generuojamus vaizdus.

Dirbtinio intelekto klasteriams taip pat reikalingas itin spartus ryšys tarp įrenginių. Mokymo metu GPU nuolat keičiasi gradientais ir modelio duomenimis. Atliekant išvadų darymą, serveriai turi įkelti modelio svorio parametrus, apdoroti kontekstą ir grąžinti rezultatus su mažu vėlavimu.

Šis tankiai išdėstytų lustų, didelės energijos sąnaudų, sparčių tinklo ryšių ir šilumos valdymo derinys lemia, kad dirbtinio intelekto infrastruktūrai keliami didesni reikalavimai nei daugeliui tradicinių interneto ar įmonių darbo krūvių.

Dirbtinio intelekto duomenų centrai užtikrina modelių mokymą ir išvadų darymą

Mokymas – tai etapas, kurio metu modelis mokosi iš duomenų. Tam gali prireikti didelių duomenų rinkinių, ilgų skaičiavimo ciklų, pakartotinių skaičiavimų ir kartu veikiančių GPU grupių. Tai dažnai yra labiausiai pastebimas dirbtinio intelekto skaičiavimo tipas, nes jis sukelia didelį ir koncentruotą infrastruktūros poreikį.

Išvada – tai etapas, kurio metu naudojamas apmokytas modelis. Kiekvienas pokalbių boto atsakymas, vaizdo generavimas, paieškos asistento atsakymas ar klasifikavimo užklausa apima išvados etapą. Viena užklausa gali būti nedidelė, tačiau pasaulinis naudojimas sukuria nuolatinį poreikį.

Daugelis dirbtinio intelekto duomenų centrų palaiko abu etapus, nors ne visada vienodu būdu. Mokymo etape svarbūs dideli sinchronizuoti klasteriai, o išvadų darymo etape didžiausią dėmesį skiriama vėlavimui, prieinamumui, maršrutizavimui, partijų apdorojimui ir išlaidoms vienam užklausimui.

Kiekvieną dirbtinio intelekto duomenų centrą lemia energijos tiekimas ir aušinimas

Dirbtinio intelekto įrangai reikalinga elektros energija, o beveik visa ta energija galiausiai virsta šiluma. Todėl objektui reikia pakankamo elektros energijos tiekimo, kad įranga galėtų veikti, ir pakankamo aušinimo pajėgumo, kad šiluma būtų patikimai pašalinta.

Būtent todėl apie dirbtinio intelekto duomenų centrus dažnai kalbama megavatais ar gigavatais, o ne tik kvadratiniais metrais. Ribojantis veiksnys gali būti ne tik žemės plotas, bet ir prisijungimas prie elektros tinklo, transformatoriai, atsarginiai energijos šaltiniai, aušinimo vanduo, šilumos šalinimas ar vietiniai leidimai.

Geresni lustai, skysčio aušinimas ir efektyvesnis duomenų centrų projektavimas gali sumažinti energijos suvartojimą vienai užduočiai, tačiau bendras energijos poreikis vis tiek gali didėti, jei dirbtinio intelekto naudojimas plėsis sparčiau nei gerės efektyvumas.

Kur statomi dirbtinio intelekto duomenų centrai?

AI duomenų centrai statomi ten, kur operatoriai gali suderinti elektros energijos tiekimą, žemės sklypus, šviesolaidinių ryšių galimybes, aušinimo sprendimus, mokesčių ir leidimų išdavimo sąlygas, darbo jėgos prieinamumą bei artumą vartotojams ar debesų regionams.

Kai kurios vietos viešai įvardijamos kaip dirbtinio intelekto superkompiuterių arba dirbtinio intelekto infrastruktūros centrai. Kitos yra bendros hiperskalės debesų regionai, kuriuose galima vykdyti dirbtinio intelekto užduotis, tačiau jie viešai nesiejami su jokiu konkrečiu modeliu ar produktu.

Norėdami susipažinti su apibendrinančiu apžvalginiu straipsniu, žr. susijusį sąrašą: Kur yra įsikūrę dirbtinio intelekto duomenų centrai?.

Kodėl dirbtinio intelekto duomenų centrai yra svarbūs

Dirbtinio intelekto duomenų centrai yra svarbūs, nes jie susieja kasdienį dirbtinio intelekto naudojimą su fizine infrastruktūra. Nešiojamojo kompiuterio ar telefono komandos gali sukelti skaičiavimus GPU serveriuose, kurių veikimas priklauso nuo elektros energijos, aušinimo, vandens, mikroschemų, žemės ir tinklų.

Jie taip pat svarbūs vietos bendruomenėms. Dideli objektai gali pritraukti investicijas ir sukurti darbo vietas, tačiau jie taip pat gali kelti klausimų dėl elektros tinklo pajėgumų, vandens naudojimo, žemės naudojimo, triukšmo, išmetamųjų teršalų, skaidrumo ir to, kas apmoka pagalbinę infrastruktūrą.

Todėl rimta diskusija apie dirbtinio intelekto poveikį turi apimti ne tik abstrakčius modelių pajėgumus. Ji turi apimti ir tai, kur veikia infrastruktūra, kaip ji maitinama, kaip efektyviai aušinama ir kaip atvirai jos operatoriai teikia ataskaitas apie išteklių naudojimą.

Papildoma literatūra ir šaltiniai

Susiję puslapiai

Susiję straipsniai

Kaip veikia dirbtinio intelekto duomenų centrai

Šiuolaikinės dirbtinio intelekto sistemos remiasi didžiuliais duomenų centrais, kuriuose yra GPU, tinklo įranga, aušinimo sistemos ir didelio tankio infrastruktūra. Šie įrenginiai užtikrina dirbtinio intelekto mokymą, išvadų darymą, vaizdų generavimą ir didelės apimties kalbos modelius.

Kur yra įsikūrę dirbtinio intelekto duomenų centrai?

Apžvalga, skirta plačiajai visuomenei, apie pagrindinius dirbtinio intelekto (AI) ir hiperskalės duomenų centrų regionus, žinomas dirbtinio intelekto superkompiuterių vietas bei viešus šaltinius, leidžiančius stebėti, kur statoma dirbtinio intelekto infrastruktūra.

Ar dirbtinio intelekto duomenų centrai kenkia aplinkai?

Dirbtinio intelekto duomenų centrai savaime nėra žalingi aplinkai, tačiau jų poveikis priklauso nuo elektros energijos paklausos, elektros tinklo energijos šaltinių sudėties, vandens suvartojimo, aušinimo sistemos konstrukcijos, vietinių apribojimų ir skaidrumo.

Kodėl dirbtinis intelektas sunaudoja tiek daug elektros energijos?

AI naudoja tiek daug elektros, nes treniravimas, inferencija ir pasaulinio masto diegimas priklauso nuo skaičiavimams imlios infrastruktūros.

Kodėl dirbtinio intelekto duomenų centrai sunaudoja tiek daug vandens?

Dirbtinio intelekto duomenų centrai naudoja vandenį, nes didelio tankio GPU serveriai generuoja šilumą, kurią būtina nuolat šalinti. Aušinimas vandeniu gali būti efektyvus, tačiau jo vietinis poveikis priklauso nuo klimato, aušinimo sistemos konstrukcijos, elektros energijos gamybos ir vandens prieinamumo.

AI poveikis aplinkai

Praktinė apžvalga apie dirbtinio intelekto poveikį aplinkai, apimanti elektros energijos, vandens, anglies dioksido išmetimų, duomenų centrų ir skaičiavimo infrastruktūros aspektus.

Susiję klausimai

Dalytis šiuo puslapiu