Īsa atbilde
Atkarībā no modeļa lieluma, atbildes ilguma un infrastruktūras efektivitātes viens ChatGPT pieprasījums var patērēt ievērojami vairāk elektroenerģijas nekā tradicionālā meklēšana tīmeklī. Precīzus skaitļus joprojām ir grūti publiski izmērīt.
Mākslīgā intelekta secinājumiem nepieciešami GPU aprēķini
Katrai ChatGPT atbildei nepieciešama mākslīgā intelekta atziņa: modelis apstrādā žetonus lielos GPU klasteros, lai reāllaikā ģenerētu tekstu. Atšķirībā no statiskām datu bāzēm mūsdienu valodas modeļi katrai mijiedarbībai veic miljardiem matemātisku darbību.
Neliela enerģija uz vienu vaicājumu kļūst milzīga mērogā
Atsevišķs pieprasījums var šķist nenozīmīgs, taču simtiem miljonu vai miljardiem pieprasījumu dienā rada ievērojamu elektroenerģijas pieprasījumu datu centros visā pasaulē.
Infrastruktūras efektivitātei ir nozīme
Enerģijas patēriņš ir atkarīgs no aparatūras paaudzes, GPU izmantošanas, dzesēšanas sistēmām, datu centra efektivitātes (PUE) un modeļa optimizācijas paņēmieniem, piemēram, kvantizācijas vai dozēšanas.
Publiskās aplēses joprojām ir aptuvenas
Lielākā daļa publiski pieejamo skaitļu ir aplēses, jo uzņēmumi reti atklāj detalizētus datus par katru pieprasījumu. TheAIMeters izmanto apkopotus publisko pētījumu un infrastruktūras pieņēmumus, lai novērtētu liela mēroga AI darbību. Metodoloģija.