Lyhyt vastaus
ChatGPT käyttää sähköä aina, kun se käsittelee kehotteita ja tuottaa vastauksia. Tarkkaa määrää ei julkisteta julkisesti reaaliajassa, joten kaikkia julkisia arvioita on pidettävä pikemminkin likimääräisinä kuin tarkastettuina mittaustuloksina.
Suurin osa ChatGPT:n käytöstä on päättelyä
Kun käyttäjä lähettää kehotuksen, malli tekee päättelyn: se käsittelee syötteen, ennustaa todennäköiset tulostuskielet ja palauttaa vastauksen. Jokainen vuorovaikutus vaatii laskentaa, ja laskenta suoritetaan palvelimilla, jotka on varustettu erikoistuneilla tekoälykiihdyttimillä.
Sähkön käyttö kasvaa päivittäisen toiminnan myötä
Yksittäinen pyyntö voi olla pieni verrattuna teollisuuden energiankäyttöön, mutta ChatGPT toimii maailmanlaajuisessa mittakaavassa. Miljoonat päivittäiset käyttäjät, toistuvat kehotukset, pidemmät keskustelut ja multimodaaliset ominaisuudet voivat muuttaa pienet pyyntöä kohti lasketut energiakustannukset merkittäväksi infrastruktuurin kysynnäksi.
Datakeskukset lisäävät yleiskustannuksia
Sähköinen jalanjälki ei rajoitu itse tekoälysiruun. Myös tukipalvelimet, muisti, verkko- ja tallennusjärjestelmät, virransyöttö ja jäähdytysjärjestelmät kuluttavat energiaa. Siksi konesalien tehokkuudella on merkitystä, kun arvioidaan tekoälypalvelujen käyttämää sähköä.
Miksi arviot vaihtelevat
Erilaiset arviot riippuvat oletuksista, jotka koskevat malliarkkitehtuuria, laitteistotyyppiä, erittelyä, vasteen pituutta, käyttöastetta, datakeskuksen tehokkuutta ja sähkön hankintaa. TheAIMeters esittää suuntaa-antavia arvioita ja yhdistää ne läpinäkyvään menetelmään sen sijaan, että se väittäisi tarkkaa reaaliaikaista mittausta. Katso Menetelmä.