Trumpas atsakymas
Viena "ChatGPT" užklausa gali sunaudoti gerokai daugiau elektros energijos nei tradicinė paieška internete, priklausomai nuo modelio dydžio, atsakymo trukmės ir infrastruktūros efektyvumo. Tikslius skaičius kol kas sunku viešai įvertinti.
AI išvadoms reikia GPU skaičiavimų
Kiekvienam "ChatGPT" atsakymui reikalinga dirbtinio intelekto išvada: modelis apdoroja žetonus dideliuose GPU klasteriuose ir realiuoju laiku generuoja tekstą. Kitaip nei statinėse duomenų bazėse, šiuolaikiniai kalbos modeliai kiekvienai sąveikai atlieka milijardus matematinių operacijų.
Nedidelė energija vienai užklausai tampa milžiniška
Atskira užklausa gali atrodyti nereikšminga, tačiau šimtai milijonų ar milijardų užklausų per dieną reiškia didelį elektros energijos poreikį duomenų centruose visame pasaulyje.
Svarbus infrastruktūros efektyvumas
Energijos sąnaudos priklauso nuo aparatinės įrangos kartos, GPU panaudojimo, aušinimo sistemų, duomenų centro efektyvumo (PUE) ir modelio optimizavimo metodų, pavyzdžiui, kvantavimo ar paketavimo.
Vieši skaičiavimai išlieka apytiksliai
Dauguma viešai skelbiamų skaičių yra apytikriai, nes įmonės retai atskleidžia išsamius kiekvienos užklausos elektros energijos suvartojimo duomenis. Apskaičiuojant didelio masto dirbtinio intelekto veiklą, "TheAIMeters" naudoja apibendrintas viešų mokslinių tyrimų ir infrastruktūros prielaidas. Metodika.