Krátka odpoveď
OpenAI nezverejňuje oficiálny počet dopytov ChatGPT za deň v reálnom čase. Verejné signály adopcie naznačujú, že služba môže denne spracovať stovky miliónov až potenciálne miliardy promptov podľa aktívnych používateľov, frekvencie promptov, smerovania modelov a používania produktu.
ChatGPT pôsobí v celosvetovom meradle
Milióny používateľov denne komunikujú s ChatGPT pri kódovaní, písaní, výskume, produktivite a konverzačných úlohách. Každá interakcia môže obsahovať viacero promptov a odpovedí, čo vytvára extrémne veľké pracovné zaťaženie v rámci infraštruktúry OpenAI.
Podnety a otázky nie sú úplne to isté
Ľudia často používajú pojmy „prompt“, „dotaz“ a „otázka“ ako synonymá pri vyhľadávaní údajov o využívaní ChatGPT. V praxi sa pod pojmom „prompt“ zvyčajne rozumie užívateľský vstup odoslaný do modelu, zatiaľ čo pojem „dotaz“ môže zahŕňať aj volania API, systémové požiadavky alebo interakcie s produktom. Verejné odhady by sa preto mali považovať skôr za orientačné než za presné.
Východiskovým bodom sú každodenné používatelia
Keďže OpenAI nezverejňuje aktuálny počet zadávaných požiadaviek, najužitočnejší verejne dostupný odhad vychádza zo signálov o využívaní: koľko ľudí používa ChatGPT, ako často sa vracajú, koľko požiadaviek zadávajú za jednu reláciu a aký vplyv na využívanie majú funkcie produktu, ako sú hlasové ovládanie, generovanie obrázkov a programovanie.
Obsluha dopytov si vyžaduje rozsiahlu infraštruktúru
Každý dotaz spracovaný ChatGPT spotrebúva výpočtové zdroje na GPU a akcelerátoroch AI. Podpora tohto dopytu si vyžaduje veľké dátové centrá, sieťovú infraštruktúru, úložné systémy a chladiace kapacity, ktoré fungujú nepretržite po celom svete.
Prečo je dôležitý objem dopytu
Vysoké objemy dopytov priamo ovplyvňujú dopyt po elektrickej energii, požiadavky na hardvér, prevádzkové náklady a vplyv na životné prostredie. Dokonca aj malé zvýšenie priemernej zložitosti dopytu môže výrazne zvýšiť celkové využitie výpočtovej kapacity v rozsahu.
Prečo sa verejné odhady líšia
Verejné odhady sa líšia, pretože OpenAI nezverejňuje oficiálne metriky prevádzky v reálnom čase pre prompty ani dopyty ChatGPT. Analytici vychádzajú z nepriamych verejných signálov, ako sú aktívni používatelia, adopcia produktu, ceny modelov, dostupnosť GPU, efektivita inferencie a pozorovaný rast prevádzky. Pozrite si Metodika.