Răspuns scurt
ChatGPT utilizează energie electrică ori de câte ori procesează solicitări și generează răspunsuri. Cantitatea exactă nu este dezvăluită public în timp real, astfel încât orice estimare publică ar trebui tratată mai degrabă ca o aproximare decât ca o măsură auditată.
Cea mai mare parte a utilizării ChatGPT este inferența
Atunci când un utilizator trimite o solicitare, modelul efectuează o inferență: procesează datele de intrare, prezice token-urile probabile de ieșire și returnează un răspuns. Fiecare interacțiune necesită calcul, iar acest calcul rulează pe servere echipate cu acceleratoare specializate de inteligență artificială.
Utilizarea energiei electrice crește odată cu activitatea zilnică
O singură cerere poate fi mică în comparație cu consumul industrial de energie, dar ChatGPT funcționează la scară globală. Milioane de utilizatori zilnici, solicitări repetate, conversații mai lungi și caracteristici multimodale pot transforma costurile energetice mici pe solicitare într-o cerere de infrastructură semnificativă.
Centrele de date adaugă cheltuieli suplimentare
Amprenta electrică nu se limitează la cipul AI în sine. Serverele, memoria, rețelele, sistemele de stocare, alimentare și răcire consumă, de asemenea, energie. Acesta este motivul pentru care eficiența centrului de date contează atunci când se estimează energia electrică utilizată de serviciile AI.
De ce variază estimările
Diferitele estimări depind de ipotezele privind arhitectura modelului, tipul de hardware, repartizarea pe loturi, durata răspunsului, utilizarea, eficiența centrului de date și sursa de energie electrică. TheAIMeters prezintă estimări direcționale și le leagă de o metodologie transparentă, mai degrabă decât să pretindă o măsurare exactă în timp real. A se vedea Metodologie.