Lühike vastus
ChatGPT kasutab elektrit, kui ta töötleb päringuid ja genereerib vastuseid. Täpne kogus ei ole reaalajas avalikult avaldatud, seega tuleks kõiki avalikke hinnanguid käsitleda pigem ligikaudse kui auditeeritud mõõtmisena.
Enamik ChatGPT kasutamist on järeldus
Kui kasutaja saadab üleskutse, teeb mudel järeldusi: ta töötleb sisendit, ennustab tõenäolisi väljundmärke ja annab vastuse. Iga interaktsioon nõuab arvutusi ja need arvutused toimuvad spetsiaalsete tehisintellekti kiirenditega varustatud serverites.
Elektrienergia kasutamine kasvab koos igapäevase tegevusega
Üks taotlus võib olla väike võrreldes tööstusliku energiatarbimisega, kuid ChatGPT tegutseb globaalses mastaabis. Miljonid igapäevased kasutajad, korduvad üleskutsed, pikemad vestlused ja multimodaalsed funktsioonid võivad muuta väikesed energiakulud päringu kohta märkimisväärseks infrastruktuurinõudluseks.
Andmekeskused lisavad üldkulusid
Elektrienergia jalajälg ei piirdu ainult tehisintellekti kiibiga. Energiat tarbivad ka toetavad serverid, mälu, võrgud, salvestusruumid, toiteallikad ja jahutussüsteemid. Seepärast on tehisintellekti teenuste poolt tarbitava elektrienergia hindamisel oluline andmekeskuse tõhusus.
Miks hinnangud erinevad
Erinevad hinnangud sõltuvad eeldustest mudeli arhitektuuri, riistvara tüübi, pakkimise, reageerimise pikkuse, kasutuse, andmekeskuse tõhususe ja elektrienergia hankimise kohta. TheAIMeters esitab suunalisi hinnanguid ja seob need läbipaistva metoodikaga, mitte ei väida täpset reaalajas mõõtmist. Vt Metoodika.