Mikä on tekoälytietokeskus?

Tekoälykeskuksessa on tekoälyjärjestelmien rakentamiseen, käyttöönottoon ja ylläpitoon tarvittavat tietotekniset laitteet. Se voi tukea mallien koulutusta, päättelyä, tietojenkäsittelyä, hakutoimintoja, kuvien luomista, suositusjärjestelmiä tai yrityskäyttöön tarkoitettuja tekoälysovelluksia.

Termi ”datakeskus” saattaa antaa vaikutelman, että kyseessä on abstrakti infrastruktuuri, mutta kyseessä ovat fyysiset rakennukset, jotka on kytketty sähköverkkoihin, kuituverkkoihin, jäähdytysjärjestelmiin sekä veden tai lämmön poistoon tarkoitettuun infrastruktuuriin. Tekoäly saattaa tuntua ohjelmistolta, mutta se perustuu todellisiin koneisiin todellisissa paikoissa.

Perinteinen pilvipohjainen datakeskus pystyy käsittelemään monenlaisia työkuormia. Tekoälyyn erikoistunut datakeskus on yleensä optimoitu erittäin tiheään laskentaan, erityisesti GPU- tai kiihdytinklustereihin, jotka suorittavat valtavan määrän rinnakkaisia matemaattisia operaatioita.

Näkyvä ydin koostuu palvelinrackeista. Tekoälylaitoksissa monet näistä palvelimista sisältävät GPU-prosessoreita, tekoälykiihdyttimiä, suurikapasiteettista muistia ja erikoistuneita verkkokortteja. Nämä laitteet on suunniteltu siirtämään dataa nopeasti ja suorittamaan matriisilaskelmia tehokkaasti.

Laskentalaiteiston ympärillä toimii laajempi tukijärjestelmä: tietojoukkojen ja mallien välitilannetietojen tallennustila, verkkokytkimet, kuituyhteydet, virranmuunnoslaitteet, varajärjestelmät, valvonta, palonsammutusjärjestelmät sekä fyysinen turvallisuus.

Jäähdytys on yhtä tärkeää kuin laskenta. Tiheä tekoälylaitteisto tuottaa jatkuvasti lämpöä, joten laitoksissa käytetään ilmanjäähdytystä, nestejäähdytystä, jäähdytyslaitteita, pumppuja, jäähdytystorneja tai lämmönvaihtimia suunnittelun ja paikallisten olosuhteiden mukaan.

Suurin ero on tiheydessä ja työmäärän luonteessa. Tekoälyn koulutus voi pitää tuhansia kiihdyttimiä varattuina pitkiä aikoja, kun taas päättelyjärjestelmien on reagoitava nopeasti käyttäjien pyyntöihin, API-kutsuisiin, suosituksiin tai luotuihin kuviin.

Tekoälyklusterit edellyttävät myös erittäin nopeaa viestintää koneiden välillä. Koulutuksen aikana GPU:t vaihtavat jatkuvasti gradientteja ja mallitietoja. Päätelmien muodostamisen aikana palvelimien on ladattava mallipainot, käsiteltävä konteksti ja palautettava tulokset pienellä viiveellä.

Tämä yhdistelmä tiheästi pakattuja piirejä, suurta virrankulutusta, nopeaa verkkoliikennettä ja lämmönhallintaa tekee tekoälyinfrastruktuurista vaativamman kuin monet perinteiset verkko- tai yrityskäyttökuormat.

Koulutus on vaihe, jossa malli oppii datasta. Se voi vaatia suuria aineistoja, pitkiä laskenta-aikoja, toistuvia laskelmia sekä yhdessä toimivia GPU-klustereita. Tämä on usein näkyvin tekoälyn laskentatyyppi, koska se aiheuttaa suurta ja keskittynyttä infrastruktuurikysyntää.

Päätelmä on vaihe, jossa koulutettua mallia käytetään. Jokainen chatbotin vastaus, kuvan luominen, hakukoneen vastaus tai luokittelupyyntö edellyttää päätelmän suorittamista. Yksittäinen pyyntö voi olla pieni, mutta maailmanlaajuinen käyttö luo jatkuvaa kysyntää.

Monet tekoälyn datakeskukset tukevat molempia vaiheita, vaikkakaan eivät aina samalla tavalla. Koulutuksessa painotetaan suuria synkronoituja klustereita, kun taas päättelyssä kiinnitetään erityistä huomiota viiveeseen, käytettävyyteen, reititykseen, eräajoon ja pyyntökohtaisiin kustannuksiin.

Tekoälylaitteistot tarvitsevat sähköä, ja lähes koko tämä sähkö muuttuu lopulta lämmöksi. Laitoksella on siksi oltava riittävä sähkönsyöttö laitteiden käyttämiseksi sekä riittävä jäähdytyskapasiteetti lämmön luotettavaksi poistamiseksi.

Siksi tekoälyn datakeskuksista puhutaan usein megawatteina tai gigawatteina, ei pelkästään neliömetreinä. Rajoittavana tekijänä voi olla pikemminkin verkkoon liittäminen, muuntajat, varavoimatuotanto, jäähdytysvesi, lämmönpoisto tai paikalliset luvat kuin pelkästään tontin koko.

Paremmat sirut, nestejäähdytys ja tehokkaampi datakeskuksen suunnittelu voivat vähentää tehtävää kohden kulutettua energiaa, mutta kokonaisenergiantarve voi silti kasvaa, jos tekoälyn käyttö laajenee nopeammin kuin tehokkuus paranee.

Tekoälyn datakeskukset rakennetaan paikkoihin, joissa operaattorit voivat yhdistää sähkön, tontin, kuituverkkoyhteydet, jäähdytysratkaisut, vero- ja lupaehtoja, työvoiman saatavuuden sekä sijainnin lähellä käyttäjiä tai pilvipalvelualueita.

Jotkut sijainnit on julkisesti määritelty tekoälyn supertietokoneiksi tai tekoälyinfrastruktuurikohteiksi. Toiset taas ovat yleisiä hyperscale-pilvipalvelualueita, joilla voidaan suorittaa tekoälytyökuormia, mutta joita ei ole julkisesti sidottu mihinkään tiettyyn malliin tai tuotteeseen.

Yleiskatsauksen aiheesta löytyy oheisesta luettelosta: Missä tekoälyn datakeskukset sijaitsevat?.

Tekoälyn datakeskukset ovat tärkeitä, koska ne yhdistävät tekoälyn jokapäiväisen käytön fyysiseen infrastruktuuriin. Kannettavalla tietokoneella tai puhelimella annettu komento voi käynnistää laskennan GPU-palvelimissa, joiden toiminta edellyttää sähköä, jäähdytystä, vettä, siruja, maa-alaa ja verkkoja.

Niillä on merkitystä myös paikallisyhteisöille. Suuret laitokset voivat tuoda mukanaan investointeja ja työpaikkoja, mutta ne voivat herättää kysymyksiä sähköverkon kapasiteetista, vedenkäytöstä, maankäytöstä, melusta, päästöistä, avoimuudesta sekä siitä, kuka maksaa tukevan infrastruktuurin kustannukset.

Jotta tekoälyn vaikutuksista voitaisiin käydä vakavaa keskustelua, on siis katsottava pidemmälle kuin pelkästään abstraktien mallien suorituskykyyn. Keskustelussa on otettava huomioon, missä infrastruktuuri toimii, miten se saa energiansa, kuinka tehokkaasti se jäähdytetään ja kuinka avoimesti sen ylläpitäjät raportoivat resurssien käytöstä.