Кратък отговор
Точните цифри не се оповестяват публично в реално време, но според изчисленията ChatGPT обработва огромни обеми от ежедневни заявки, вариращи от стотици милиони до потенциално милиарди заявки в зависимост от моделите на използване и внедряване на модела.
ChatGPT работи в глобален мащаб
Милиони потребители взаимодействат с ChatGPT ежедневно за кодиране, писане, проучване, продуктивност и задачи за разговори. Всяко взаимодействие може да съдържа многобройни подкани и отговори, което създава изключително големи натоварвания за изводи в инфраструктурата на OpenAI.
Обслужването на заявките изисква огромна инфраструктура
Всяка заявка, обработена от ChatGPT, използва изчислителни ресурси на графични процесори и ускорители на изкуствен интелект. Поддържането на това търсене изисква големи центрове за данни, мрежова инфраструктура, системи за съхранение и капацитет за охлаждане, които работят непрекъснато по целия свят.
Защо обемът на заявките е от значение
Големите обеми на заявките оказват пряко влияние върху потреблението на електроенергия, хардуерните изисквания, оперативните разходи и въздействието върху околната среда. Дори малки увеличения на средната сложност на заявките могат значително да увеличат общото използване на изчислителни технологии в мащаба.
Защо публичните оценки се различават
Публичните оценки се различават, тъй като OpenAI не публикува подробни данни за трафика в реално време. Анализаторите трябва да разчитат на косвени показатели като активни потребители, цени на моделите, предлагане на графични процесори, ефективност на изводите и наблюдаван ръст на трафика. Вж Методология.