Īsa atbilde
ChatGPT izmanto elektroenerģiju, kad apstrādā uzaicinājumus un ģenerē atbildes. Precīzs daudzums reālajā laikā netiek publiski atklāts, tāpēc jebkurš publisks aprēķins jāuzskata par aptuvenu, nevis revidētu mērījumu.
Lielākā daļa ChatGPT lietojumu ir secinājumi
Kad lietotājs nosūta uzaicinājumu, modelis veic secinājumu: tas apstrādā ievades datus, prognozē iespējamos izejas žetonus un atgriež atbildi. Katrai mijiedarbībai ir nepieciešama skaitļošana, un šī skaitļošana notiek serveros, kas aprīkoti ar specializētiem mākslīgā intelekta paātrinātājiem.
Elektroenerģijas patēriņš pieaug līdz ar ikdienas aktivitātēm
Viens pieprasījums var būt neliels salīdzinājumā ar rūpniecisko enerģijas patēriņu, taču ChatGPT darbojas globālā mērogā. Miljoniem lietotāju dienā, atkārtotas norādes, garākas sarunas un multimodālas funkcijas var pārvērst nelielas enerģijas izmaksas par vienu pieprasījumu nozīmīgā infrastruktūras pieprasījumā.
Datu centri palielina pieskaitāmās izmaksas
Elektroenerģijas patēriņš neaprobežojas tikai ar pašu mākslīgā intelekta mikroshēmu. Enerģiju patērē arī atbalstošie serveri, atmiņa, tīkla, glabāšanas, enerģijas piegādes un dzesēšanas sistēmas. Tāpēc, novērtējot mākslīgā intelekta pakalpojumu patērēto elektroenerģiju, ir svarīga datu centru efektivitāte.
Kāpēc aplēses atšķiras
Atšķirīgas aplēses ir atkarīgas no pieņēmumiem par modeļa arhitektūru, aparatūras veidu, dozēšanu, reakcijas ilgumu, izmantošanu, datu centra efektivitāti un elektroenerģijas avotiem. TheAIMeters sniedz virziena aplēses un saista tās ar pārredzamu metodoloģiju, nevis pieprasa precīzus reāllaika mērījumus. Sk Metodoloģija.