Коротка відповідь
Точні цифри не публікуються в режимі реального часу, але оцінки показують, що ChatGPT обробляє величезні щоденні обсяги запитів від сотень мільйонів до потенційно мільярдів підказок, залежно від моделей використання та розгортання моделі.
ChatGPT працює в глобальному масштабі
Мільйони користувачів щодня взаємодіють з ChatGPT для кодування, написання текстів, досліджень, підвищення продуктивності та розмовних завдань. Кожна взаємодія може містити кілька підказок і відповідей, що створює надзвичайно велике навантаження на інфраструктуру OpenAI.
Обслуговування запитів вимагає великої інфраструктури
Кожен запит, оброблений ChatGPT, споживає обчислювальні ресурси графічних процесорів і прискорювачів штучного інтелекту. Підтримка цього попиту вимагає великих центрів обробки даних, мережевої інфраструктури, систем зберігання даних і охолоджувальних потужностей, що працюють безперервно по всьому світу.
Чому обсяг запитів має значення
Великі обсяги запитів безпосередньо впливають на попит на електроенергію, вимоги до апаратного забезпечення, операційні витрати та вплив на навколишнє середовище. Навіть невелике збільшення середньої складності запиту може суттєво збільшити загальне використання обчислень у масштабі.
Чому громадські оцінки різняться
Публічні оцінки відрізняються, оскільки OpenAI не публікує детальних показників трафіку в реальному часі. Аналітики повинні покладатися на непрямі показники, такі як активні користувачі, ціни на моделі, постачання графічних процесорів, ефективність висновків і спостережуване зростання трафіку. Див. статтю Методологія.