Trumpas atsakymas
OpenAI neskelbia oficialaus realaus laiko ChatGPT užklausų per dieną skaičiaus. Vieši naudojimo signalai rodo, kad paslauga gali apdoroti nuo šimtų milijonų iki galimai milijardų promptų per dieną, priklausomai nuo aktyvių naudotojų, promptų dažnio, modelių nukreipimo ir produkto naudojimo.
"ChatGPT" veikia pasauliniu mastu
Milijonai naudotojų kasdien bendrauja su "ChatGPT" atlikdami kodavimo, rašymo, tyrimų, produktyvumo ir pokalbių užduotis. Kiekvienoje sąveikoje gali būti daugybė užklausų ir atsakymų, todėl "OpenAI" infrastruktūroje sukuriama itin didelė išvadų darbo apkrova.
Užduotys ir klausimai nėra visiškai tapatūs
Žmonės, ieškodami duomenų apie „ChatGPT“ naudojimą, dažnai terminus „promptas“, „užklausa“ ir „klausimas“ vartoja kaip sinonimus. Praktikoje „promptas“ paprastai reiškia vartotojo įvestį, siunčiamą modeliui, o „užklausa“ taip pat gali apimti API iškvietimus, sistemos užklausas ar sąveiką su produktu. Todėl viešai skelbiami įvertinimai turėtų būti vertinami kaip orientaciniai, o ne tikslūs.
Kasdieniniai vartotojai yra išeities taškas
Kadangi „OpenAI“ neskelbia realaus laiko užklausų skaičiavimo duomenų, naudingiausias viešai prieinamas įvertinimas grindžiamas naudojimo rodikliais: kiek žmonių naudoja „ChatGPT“, kaip dažnai jie grįžta, kiek užklausų jie siunčia per vieną sesiją ir kaip tokios produkto funkcijos kaip balso atpažinimas, vaizdų generavimas ir kodavimas veikia naudojimą.
Užklausoms aptarnauti reikia didžiulės infrastruktūros
Kiekviena "ChatGPT" apdorojama užklausa naudoja GPU ir dirbtinio intelekto greitintuvų skaičiavimo išteklius. Šiai paklausai patenkinti reikia didelių duomenų centrų, tinklo infrastruktūros, saugojimo sistemų ir aušinimo pajėgumų, kurie nuolat veiktų visame pasaulyje.
Kodėl užklausų apimtis yra svarbi
Didelės užklausų apimtys turi tiesioginės įtakos elektros energijos poreikiui, aparatinės įrangos reikalavimams, veiklos sąnaudoms ir poveikiui aplinkai. Net ir nedidelis vidutinio užklausų sudėtingumo padidėjimas gali gerokai padidinti bendrą skaičiavimų naudojimą.
Kodėl skiriasi vieši vertinimai
Vieši įverčiai skiriasi, nes OpenAI neskelbia oficialių realaus laiko srauto metrikų ChatGPT promptams ar užklausoms. Analitikai remiasi netiesioginiais viešais signalais, tokiais kaip aktyvūs naudotojai, produkto įsisavinimas, modelių kainodara, GPU pasiūla, inferencijos efektyvumas ir stebimas srauto augimas. Žr. Metodika.