Krátka odpoveď
ChatGPT využíva elektrickú energiu vždy, keď spracováva výzvy a generuje odpovede. Presné množstvo sa nezverejňuje v reálnom čase, takže akýkoľvek verejný odhad by sa mal považovať skôr za približný údaj než za auditované meranie.
Väčšina použitia ChatGPT je odvodzovanie
Keď používateľ odošle výzvu, model vykoná inferenciu: spracuje vstup, predpovie pravdepodobné výstupné tokeny a vráti odpoveď. Každá interakcia si vyžaduje výpočet, ktorý beží na serveroch vybavených špecializovanými akcelerátormi umelej inteligencie.
Spotreba elektrickej energie rastie s dennou aktivitou
Jedna požiadavka môže byť v porovnaní s priemyselnou spotrebou energie malá, ale ChatGPT funguje v globálnom meradle. Milióny používateľov denne, opakované výzvy, dlhšie konverzácie a multimodálne funkcie môžu premeniť malé náklady na energiu na jeden dopyt na významné požiadavky na infraštruktúru.
Dátové centrá zvyšujú réžiu
Elektrická stopa sa neobmedzuje len na samotný čip AI. Energiu spotrebúvajú aj podporné servery, pamäť, siete, úložiská, systémy napájania a chladenia. Preto je pri odhade spotreby elektrickej energie služieb AI dôležitá efektívnosť dátového centra.
Prečo sa odhady líšia
Rôzne odhady závisia od predpokladov o architektúre modelu, type hardvéru, dávkovaní, dĺžke odozvy, využití, účinnosti dátového centra a zdrojoch elektrickej energie. SystémAIMeters prezentuje smerné odhady a spája ich s transparentnou metodikou, namiesto toho, aby si nárokoval presné meranie v reálnom čase. Pozrite si Metodika.