Короткий ответ
ChatGPT потребляет электроэнергию при обработке запросов и генерировании ответов. Точное количество в реальном времени не разглашается, поэтому любые публичные оценки следует рассматривать как приблизительные, а не как проверенные измерения.
Большинство случаев использования ChatGPT - это умозаключения
Когда пользователь отправляет запрос, модель выполняет вывод: обрабатывает входные данные, предсказывает вероятные выходные лексемы и возвращает ответ. Каждое взаимодействие требует вычислений, и эти вычисления выполняются на серверах, оснащенных специализированными ускорителями ИИ.
Потребление электроэнергии растет с увеличением ежедневной активности
Один запрос может быть небольшим по сравнению с промышленным энергопотреблением, но ChatGPT работает в глобальном масштабе. Миллионы ежедневных пользователей, повторяющиеся подсказки, длительные разговоры и мультимодальные функции могут превратить небольшие затраты энергии на один запрос в значительный спрос на инфраструктуру.
Центры обработки данных увеличивают накладные расходы
Затраты электроэнергии не ограничиваются самим чипом ИИ. Энергию также потребляют вспомогательные серверы, память, сети, системы хранения, подачи питания и охлаждения. Именно поэтому эффективность центров обработки данных имеет значение при оценке электроэнергии, потребляемой сервисами ИИ.
Почему оценки различаются
Различные оценки зависят от предположений об архитектуре модели, типе оборудования, пакетной обработке, длине отклика, использовании, эффективности ЦОД и источниках электроэнергии. TheAIMeters представляет ориентировочные оценки и связывает их с прозрачной методологией, а не претендует на точное измерение в реальном времени. См Методология.