Kratek odgovor
OpenAI ne objavlja uradne številke poizvedb ChatGPT na dan v realnem času. Javni signali sprejemanja kažejo, da lahko storitev dnevno obdela od sto milijonov do potencialno milijard promptov, odvisno od aktivnih uporabnikov, pogostosti promptov, usmerjanja modelov in uporabe izdelka.
ChatGPT deluje na svetovni ravni
Več milijonov uporabnikov dnevno uporablja ChatGPT za kodiranje, pisanje, raziskovanje, produktivnost in pogovorne naloge. Vsaka interakcija lahko vsebuje več pozivov in odgovorov, kar ustvarja izjemno velike delovne obremenitve pri sklepanju v infrastrukturi OpenAI.
Navodila in poizvedbe niso povsem enaka
Ljudje pogosto uporabljajo izraze »prompt«, »poizvedba« in »vprašanje« kot sinonime, ko iščejo podatke o uporabi ChatGPT-ja. V praksi »prompt« običajno pomeni uporabniški vnos, poslan modelu, medtem ko »poizvedba« lahko vključuje tudi API-klice, sistemske zahteve ali interakcije z izdelkom. Javne ocene je zato treba obravnavati kot okvirne in ne kot natančne.
Izhodišče so vsakodnevni uporabniki
Ker OpenAI ne objavlja števca vprašanj v realnem času, se najbolj uporabna javna ocena opira na kazalnike uporabe: koliko ljudi uporablja ChatGPT, kako pogosto se vračajo, koliko vprašanj pošljejo na sejo ter kako funkcije izdelka, kot so glas, ustvarjanje slik in programiranje, vplivajo na uporabo.
Obravnava poizvedb zahteva obsežno infrastrukturo
Vsaka poizvedba, ki jo obdeluje ChatGPT, porabi računske vire na grafičnih procesorjih in pospeševalnikih umetne inteligence. Za podporo temu povpraševanju so potrebni veliki podatkovni centri, omrežna infrastruktura, sistemi za shranjevanje in hladilne zmogljivosti, ki neprekinjeno delujejo po vsem svetu.
Zakaj je obseg poizvedb pomemben
Velik obseg poizvedb neposredno vpliva na povpraševanje po električni energiji, zahteve glede strojne opreme, operativne stroške in vpliv na okolje. Že majhno povečanje povprečne zahtevnosti poizvedb lahko znatno poveča skupno porabo računalnikov v velikem obsegu.
Zakaj se javne ocene razlikujejo
Javne ocene se razlikujejo, ker OpenAI ne objavlja uradnih metrik prometa v realnem času za prompte ali poizvedbe ChatGPT. Analitiki uporabljajo posredne javne signale, kot so aktivni uporabniki, sprejemanje izdelka, cene modelov, ponudba GPU, učinkovitost inference in opažena rast prometa. Glejte Metodologija.