Lühike vastus
OpenAI ei avalda ametlikku reaalajas arvu ChatGPT päringute kohta päevas. Avalikud kasutuselevõtu signaalid viitavad, et teenus võib päevas töödelda sadu miljoneid kuni potentsiaalselt miljardeid prompte, sõltuvalt aktiivsetest kasutajatest, promptide sagedusest, mudelite suunamisest ja toote kasutusest.
ChatGPT tegutseb ülemaailmselt
Miljonid kasutajad suhtlevad igapäevaselt ChatGPTga kodeerimise, kirjutamise, uurimistöö, tootlikkuse ja vestlusülesannete jaoks. Iga interaktsioon võib sisaldada mitmeid üleskutseid ja vastuseid, mis tekitab OpenAI infrastruktuuris äärmiselt suurt järelduste tegemise koormust.
Küsimused ja päringud ei ole täpselt ühesugused
ChatGPT kasutajate arvu otsides kasutatakse sõnu „prompt”, „päring” ja „küsimus” sageli sünonüümidena. Praktikas tähendab „prompt” tavaliselt mudelile saadetud kasutaja sisendit, samas kui „päring” võib hõlmata ka API-kõnesid, süsteemipäringuid või tootega suhtlemist. Seetõttu tuleks avalikult avaldatud hinnanguid käsitleda pigem suunavate kui täpsete näitajatena.
Lähtpunktiks on igapäevased kasutajad
Kuna OpenAI ei avalda reaalajas käskude arvu, põhineb kõige kasulikum avalik hinnang kasutajate käitumise märkidel: kui palju inimesi kasutab ChatGPT-d, kui tihti nad sinna tagasi pöörduvad, kui palju käske nad ühe seansi jooksul saadavad ning kuidas mõjutavad kasutamist sellised tootefunktsioonid nagu hääl, piltide genereerimine ja programmeerimine.
Päringute teenindamine nõuab tohutut infrastruktuuri
Iga päring, mida ChatGPT töötleb, tarbib arvutiressursse GPUs ja AI-kiirendites. Selle nõudluse toetamine nõuab suuri andmekeskusi, võrguinfrastruktuuri, salvestussüsteeme ja jahutusvõimsust, mis töötavad pidevalt üle maailma.
Miks päringute maht on oluline
Suur päringumaht mõjutab otseselt elektrivajadust, riistvaranõudeid, tegevuskulusid ja keskkonnamõju. Isegi keskmiste päringute keerukuse väike kasv võib märkimisväärselt suurendada arvutuskasutuse kogumahtu.
Miks avalikud hinnangud erinevad
Avalikud hinnangud erinevad, sest OpenAI ei avalda ametlikke reaalaja liiklusmõõdikuid ChatGPT promptide ega päringute kohta. Analüütikud toetuvad kaudsetele avalikele signaalidele, nagu aktiivsed kasutajad, toote kasutuselevõtt, mudelite hinnad, GPU pakkumine, inferentsi tõhusus ja täheldatud liikluse kasv. Vaata Metoodika.