Lyhyt vastaus
Yksittäinen ChatGPT-kysely voi kuluttaa huomattavasti enemmän sähköä kuin perinteinen verkkohaku, riippuen mallin koosta, vastauksen pituudesta ja infrastruktuurin tehokkuudesta. Tarkkoja lukuja on vaikea mitata julkisesti.
Tekoälyn päättely vaatii GPU-laskentaa
Jokainen ChatGPT-vastaus vaatii tekoälyn päättelyä: malli käsittelee merkkejä suurissa GPU-klustereissa luodakseen tekstiä reaaliajassa. Toisin kuin staattiset tietokannat, nykyaikaiset kielimallit suorittavat miljardeja matemaattisia operaatioita jokaista vuorovaikutusta varten.
Pieni energia kyselyä kohti muuttuu massiiviseksi mittakaavassa
Yksittäinen kysely saattaa vaikuttaa vähäpätöiseltä, mutta sadat miljoonat tai miljardit kyselyt päivässä aiheuttavat huomattavan sähkön tarpeen eri puolilla maailmaa sijaitsevissa tietokeskuksissa.
Infrastruktuurin tehokkuudella on merkitystä
Energiajalanjälki riippuu laitteiston sukupolvesta, GPU:n käytöstä, jäähdytysjärjestelmistä, datakeskuksen tehokkuudesta (PUE) ja mallin optimointitekniikoista, kuten kvantisoinnista tai panostamisesta.
Julkiset arviot ovat edelleen likimääräisiä
Useimmat julkiset luvut ovat arvioita, koska yritykset harvoin julkistavat yksityiskohtaisia kyselykohtaisia sähkönkulutustietoja. TheAIMeters käyttää aggregoituja julkisia tutkimus- ja infrastruktuurioletuksia laajamittaisen tekoälyn toiminnan arvioimiseksi. Menetelmä.