Кратък отговор
OpenAI не публикува официален брой заявки на ChatGPT на ден в реално време. Публичните сигнали за възприемане подсказват, че услугата може да обработва стотици милиони до потенциално милиарди prompt-и дневно според активните потребители, честотата на prompt-ите, маршрутизацията на моделите и употребата на продукта.
ChatGPT работи в глобален мащаб
Милиони потребители взаимодействат с ChatGPT ежедневно за кодиране, писане, проучване, продуктивност и задачи за разговори. Всяко взаимодействие може да съдържа многобройни промптове и отговори, което създава изключително големи натоварвания за изводи в инфраструктурата на OpenAI.
Подсказките и запитванията не са точно едно и също нещо
Хората често използват термините „подсказка“, „заявка“ и „въпрос“ като синоними, когато търсят данни за използването на ChatGPT. На практика „подсказка“ обикновено означава потребителския вход, изпратен към модела, докато „заявка“ може да включва също API-извиквания, системни заявки или взаимодействия с продукта. Поради това публичните оценки трябва да се разглеждат по-скоро като ориентировъчни, отколкото като точни.
Отправната точка са ежедневните потребители
Тъй като OpenAI не публикува данни в реално време за броя на заявките, най-полезната публично достъпна оценка се основава на показателите за приемане: колко души използват ChatGPT, колко често се връщат, колко заявки изпращат на сесия и как функциите на продукта, като гласови команди, генериране на изображения и програмиране, влияят върху използването му.
Обслужването на заявките изисква огромна инфраструктура
Всяка заявка, обработена от ChatGPT, използва изчислителни ресурси на графични процесори и ускорители на изкуствен интелект. Поддържането на това търсене изисква големи центрове за данни, мрежова инфраструктура, системи за съхранение и капацитет за охлаждане, които работят непрекъснато по целия свят.
Защо обемът на заявките е от значение
Големите обеми на заявките оказват пряко влияние върху потреблението на електроенергия, хардуерните изисквания, оперативните разходи и въздействието върху околната среда. Дори малки увеличения на средната сложност на заявките могат значително да увеличат общото използване на изчислителни технологии в мащаба.
Защо публичните оценки се различават
Публичните оценки се различават, защото OpenAI не публикува официални метрики за трафик в реално време за prompt-и или заявки на ChatGPT. Анализаторите разчитат на косвени публични сигнали като активни потребители, възприемане на продукта, цени на моделите, наличност на GPU, ефективност на инференса и наблюдаван растеж на трафика. Вижте Методология.