Коротка відповідь
OpenAI не публікує офіційний підрахунок запитів ChatGPT на день у реальному часі. Публічні сигнали впровадження свідчать, що сервіс може обробляти від сотень мільйонів до потенційно мільярдів промптів щодня, залежно від активних користувачів, частоти промптів, маршрутизації моделей і використання продукту.
ChatGPT працює в глобальному масштабі
Мільйони користувачів щодня взаємодіють з ChatGPT для кодування, написання текстів, досліджень, підвищення продуктивності та розмовних завдань. Кожна взаємодія може містити кілька підказок і відповідей, що створює надзвичайно велике навантаження на інфраструктуру OpenAI.
Підказки та запити — це не зовсім одне й те саме
Під час пошуку даних про кількість користувачів ChatGPT люди часто вживають терміни «промт», «запит» та «питання» як синоніми. На практиці «промт» зазвичай означає вхідні дані, що надсилаються користувачем до моделі, тоді як «запит» може також включати виклики API, системні запити або взаємодію з продуктом. Тому до публічних оцінок слід ставитися як до орієнтовних, а не точних даних.
Початковим пунктом є щоденні користувачі
Оскільки OpenAI не оприлюднює дані про кількість запитів у режимі реального часу, найкорисніша загальнодоступна оцінка ґрунтується на показниках популярності: скільки людей користуються ChatGPT, як часто вони повертаються, скільки запитів вони надсилають за сеанс, а також як такі функції продукту, як голосове управління, генерація зображень та програмування, впливають на його використання.
Обслуговування запитів вимагає великої інфраструктури
Кожен запит, оброблений ChatGPT, споживає обчислювальні ресурси графічних процесорів і прискорювачів штучного інтелекту. Підтримка цього попиту вимагає великих центрів обробки даних, мережевої інфраструктури, систем зберігання даних і охолоджувальних потужностей, що працюють безперервно по всьому світу.
Чому обсяг запитів має значення
Великі обсяги запитів безпосередньо впливають на попит на електроенергію, вимоги до апаратного забезпечення, операційні витрати та вплив на навколишнє середовище. Навіть невелике збільшення середньої складності запиту може суттєво збільшити загальне використання обчислень у масштабі.
Чому громадські оцінки різняться
Публічні оцінки відрізняються, тому що OpenAI не публікує офіційні метрики трафіку в реальному часі для промптів або запитів ChatGPT. Аналітики спираються на непрямі публічні сигнали, як-от активні користувачі, впровадження продукту, ціни моделей, постачання GPU, ефективність інференсу та спостережуване зростання трафіку. Див. Методологія.