Īsa atbilde
OpenAI nepublicē oficiālu reāllaika ChatGPT vaicājumu skaitu dienā. Publiskie ieviešanas signāli liecina, ka pakalpojums var apstrādāt simtiem miljonu līdz potenciāli miljardiem promptu dienā, atkarībā no aktīvajiem lietotājiem, promptu biežuma, modeļu maršrutēšanas un produkta lietojuma.
ChatGPT darbojas globālā mērogā
Miljoniem lietotāju katru dienu sazinās ar ChatGPT, lai veiktu kodēšanas, rakstīšanas, pētniecības, produktivitātes un sarunu uzdevumus. Katra mijiedarbība var ietvert vairākus ieteikumus un atbildes, radot ārkārtīgi lielu secinājumu darba slodzi OpenAI infrastruktūrā.
Norādes un jautājumi nav pilnīgi viens un tas pats
Meklējot informāciju par ChatGPT izmantošanas rādītājiem, cilvēki bieži vien terminus „prompt”, „query” un „question” lieto kā sinonīmus. Praksē „prompt” parasti nozīmē lietotāja ievadīto informāciju, kas tiek nosūtīta modelim, savukārt „query” var ietvert arī API izsaukumus, sistēmas pieprasījumus vai mijiedarbību ar produktu. Tāpēc publiskās aplēses ir jāuzskata drīzāk par orientējošām, nevis precīzām.
Ikdienas lietotāji ir sākumpunkts
Tā kā OpenAI nepublicē reāllaika pieprasījumu skaitītāju, visnoderīgākais publiski pieejamais novērtējums balstās uz izmantošanas rādītājiem: cik daudz cilvēku izmanto ChatGPT, cik bieži viņi atgriežas, cik daudz pieprasījumu viņi nosūta vienā sesijā un kā produkta funkcijas, piemēram, balss, attēlu ģenerēšana un programmēšana, ietekmē izmantošanu.
Pieprasījumu apkalpošanai nepieciešama liela infrastruktūra
Katrs ChatGPT apstrādātais vaicājums patērē GPU un AI paātrinātāju skaitļošanas resursus. Šāda pieprasījuma nodrošināšanai ir nepieciešami lieli datu centri, tīkla infrastruktūra, glabāšanas sistēmas un dzesēšanas jauda, kas nepārtraukti darbojas visā pasaulē.
Kāpēc ir svarīgs vaicājuma apjoms
Liels pieprasījumu apjoms tieši ietekmē elektroenerģijas pieprasījumu, aparatūras prasības, darbības izmaksas un ietekmi uz vidi. Pat neliels vidējās pieprasījuma sarežģītības pieaugums var ievērojami palielināt kopējo skaitļošanas jaudu izmantošanu mērogā.
Kāpēc publiskās aplēses atšķiras
Publiskās aplēses atšķiras, jo OpenAI nepublicē oficiālas reāllaika trafika metrikas ChatGPT promptiem vai vaicājumiem. Analītiķi izmanto netiešus publiskus signālus, piemēram, aktīvos lietotājus, produkta ieviešanu, modeļu cenu noteikšanu, GPU pieejamību, inferenču efektivitāti un novēroto trafika pieaugumu. Skatiet Metodoloģija.