Lühike vastus
Üks ChatGPT päring võib tarbida oluliselt rohkem elektrit kui traditsiooniline veebiotsing, sõltuvalt mudeli suurusest, vastuse pikkusest ja infrastruktuuri tõhususest. Täpseid numbreid on endiselt raske avalikult mõõta.
Tehisintellekti järeldamine nõuab GPU-arvutusi
Iga ChatGPT vastus nõuab tehisintellekti järeldusi: mudel töötleb märgendeid suurtes GPU-klastrites, et genereerida teksti reaalajas. Erinevalt staatilistest andmebaasidest teevad kaasaegsed keelemudelid iga suhtluse puhul miljardeid matemaatilisi operatsioone.
Väike energia päringu kohta muutub mastaabis massiivseks
Üksik päring võib tunduda tühine, kuid sadu miljoneid või miljardeid päringuid päevas tähendab märkimisväärset elektrivajadust kogu maailma andmekeskustes.
Infrastruktuuri tõhusus on oluline
Energiajalajälg sõltub riistvara põlvkonnast, GPU kasutamisest, jahutussüsteemidest, andmekeskuse tõhususest (PUE) ja mudeli optimeerimise tehnikatest, nagu kvantimine või pakkimine.
Avalikud hinnangud jäävad ligikaudseteks
Enamik avalikke numbreid on hinnangulised, sest ettevõtted avaldavad harva üksikasjalikke andmeid elektritarbimise kohta. TheAIMeters kasutab suuremahulise tehisintellekti aktiivsuse hindamiseks agregeeritud avalikke uuringuid ja infrastruktuuri eeldusi. Metoodika.