Коротка відповідь
Один запит до ChatGPT може споживати значно більше електроенергії, ніж традиційний веб-пошук, залежно від розміру моделі, тривалості відповіді та ефективності інфраструктури. Точні цифри поки що важко піддаються публічному вимірюванню.
Висновки ШІ вимагають обчислень на GPU
Кожна відповідь ChatGPT вимагає висновку штучного інтелекту: модель обробляє токени на великих кластерах графічних процесорів, щоб генерувати текст у реальному часі. На відміну від статичних баз даних, сучасні мовні моделі виконують мільярди математичних операцій для кожної взаємодії.
Невелика енергія на запит стає величезною в масштабі
Окремий запит може здатися незначним, але сотні мільйонів або мільярди запитів на день призводять до значного попиту на електроенергію в центрах обробки даних по всьому світу.
Ефективність інфраструктури має значення
Енергетичний слід залежить від апаратного забезпечення, використання графічних процесорів, систем охолодження, ефективності центру обробки даних (PUE) та методів оптимізації моделей, таких як квантування або пакетна обробка.
Публічні оцінки залишаються приблизними
Більшість публічних цифр є оціночними, оскільки компанії рідко розкривають детальні дані про споживання електроенергії за кожним запитом. TheAIMeters використовує узагальнені публічні дослідження та припущення щодо інфраструктури для оцінки масштабної активності ШІ. Методологія.