Trumpas atsakymas
"ChatGPT" naudoja elektros energiją, kai apdoroja užklausas ir generuoja atsakymus. Tikslus kiekis nėra viešai skelbiamas realiuoju laiku, todėl bet koks viešas įvertinimas turėtų būti laikomas apytiksliu, o ne audituotu matavimu.
Dauguma "ChatGPT" naudojimo atvejų yra išvados
Kai naudotojas išsiunčia užklausą, modelis atlieka išvadą: apdoroja įvestį, numato tikėtinus išvesties simbolius ir grąžina atsakymą. Kiekvienai sąveikai reikia skaičiavimų, o šie skaičiavimai atliekami serveriuose, kuriuose įrengti specializuoti dirbtinio intelekto greitintuvai.
Elektros energijos vartojimas auga kartu su kasdiene veikla
Viena užklausa gali būti nedidelė, palyginti su pramoniniu energijos suvartojimu, tačiau ChatGPT veikia pasauliniu mastu. Milijonai kasdienių naudotojų, pasikartojantys raginimai, ilgesni pokalbiai ir multimodalinės funkcijos gali paversti nedideles vienos užklausos energijos sąnaudas reikšmingais infrastruktūros poreikiais.
Duomenų centrai padidina pridėtines išlaidas
Elektros energijos sąnaudos neapsiriboja vien dirbtinio intelekto lustu. Energiją vartoja ir pagalbiniai serveriai, atmintis, tinklo, saugojimo, energijos tiekimo ir aušinimo sistemos. Štai kodėl duomenų centrų efektyvumas svarbus vertinant dirbtinio intelekto paslaugų sunaudojamą elektros energiją.
Kodėl įverčiai skiriasi
Skirtingi įverčiai priklauso nuo prielaidų apie modelio architektūrą, aparatinės įrangos tipą, paketavimą, atsako trukmę, panaudojimą, duomenų centro efektyvumą ir elektros energijos tiekimą. TheAIMeters pateikia kryptinius įverčius ir susieja juos su skaidria metodika, o ne pretenduoja į tikslius matavimus realiuoju laiku. Žr Metodika.