Коротка відповідь
ChatGPT використовує електроенергію, коли обробляє підказки та генерує відповіді. Точна кількість не оприлюднюється в режимі реального часу, тому будь-яка публічна оцінка повинна розглядатися як наближена, а не перевірена.
Більшість випадків використання ChatGPT - це висновок
Коли користувач надсилає запит, модель робить висновок: обробляє вхідні дані, прогнозує ймовірні вихідні токени і повертає відповідь. Кожна взаємодія вимагає обчислень, і ці обчислення виконуються на серверах, оснащених спеціалізованими прискорювачами ШІ.
Використання електроенергії зростає з щоденною активністю
Один запит може бути невеликим порівняно з промисловим споживанням енергії, але ChatGPT працює в глобальному масштабі. Мільйони щоденних користувачів, повторювані підказки, довші розмови та мультимодальні функції можуть перетворити невеликі витрати енергії на один запит на значний попит на інфраструктуру.
Центри обробки даних збільшують накладні витрати
Енергоспоживання не обмежується самим чипом ШІ. Допоміжні сервери, пам'ять, мережа, системи зберігання, електропостачання та охолодження також споживають енергію. Ось чому ефективність центру обробки даних має значення при оцінці електроенергії, що використовується службами ШІ.
Чому оцінки різняться
Різні оцінки залежать від припущень щодо архітектури моделі, типу обладнання, пакетування, тривалості відгуку, використання, ефективності центру обробки даних та джерел електроенергії. TheAIMeters представляє орієнтовні оцінки і пов'язує їх з прозорою методологією, а не претендує на точне вимірювання в реальному часі. Див Методологія.