Kratek odgovor
ChatGPT porablja električno energijo, ko obdeluje pozive in ustvarja odgovore. Natančna količina ni javno razkrita v realnem času, zato je treba vsako javno oceno obravnavati kot približek in ne kot revidirano meritev.
Večina uporabe ChatGPT je sklepanje
Ko uporabnik pošlje poziv, model izvede sklepanje: obdela vhodne podatke, predvidi verjetne izhodne žetone in vrne odgovor. Vsaka interakcija zahteva računanje, ki se izvaja na strežnikih, opremljenih s specializiranimi pospeševalniki umetne inteligence.
Poraba električne energije narašča z vsakodnevno dejavnostjo
Posamezna zahteva je morda majhna v primerjavi z industrijsko porabo energije, vendar ChatGPT deluje na svetovni ravni. Milijoni dnevnih uporabnikov, ponavljajoči se pozivi, daljši pogovori in multimodalne funkcije lahko majhne stroške energije na zahtevo spremenijo v pomembne infrastrukturne zahteve.
Podatkovni centri povečujejo splošne stroške
Električni odtis ni omejen na sam čip umetne inteligence. Energijo porabljajo tudi podporni strežniki, pomnilnik, omrežje, pomnilnik, sistemi za shranjevanje, oskrbo z energijo in hlajenje. Zato je pri ocenjevanju električne energije, ki jo porabijo storitve umetne inteligence, pomembna učinkovitost podatkovnih centrov.
Zakaj se ocene razlikujejo
Različne ocene so odvisne od predpostavk o arhitekturi modela, vrsti strojne opreme, doziranju, dolžini odziva, izkoriščenosti, učinkovitosti podatkovnega centra in oskrbi z električno energijo. SistemAIMeters predstavlja usmerjene ocene in jih povezuje s pregledno metodologijo, namesto da bi zahteval natančno merjenje v realnem času. Oglejte si Metodologija.