Кратък отговор
Една заявка в ChatGPT може да консумира значително повече електроенергия, отколкото традиционно търсене в интернет, в зависимост от размера на модела, дължината на отговора и ефективността на инфраструктурата. Точните цифри все още са трудни за публично измерване.
Изводът на AI изисква изчисления на GPU
Всеки отговор на ChatGPT изисква извод от изкуствен интелект: моделът обработва лексеми в големи клъстери на GPU, за да генерира текст в реално време. За разлика от статичните бази данни, съвременните езикови модели извършват милиарди математически операции за всяко взаимодействие.
Малката енергия на заявка става огромна в мащаба
Една отделна заявка може да изглежда незначителна, но стотици милиони или милиарди заявки на ден водят до значително търсене на електроенергия в центровете за данни по целия свят.
Ефективността на инфраструктурата е от значение
Енергийният отпечатък зависи от поколението на хардуера, използването на графичните процесори, системите за охлаждане, ефективността на центъра за данни (PUE) и техниките за оптимизация на модела, като квантуване или групиране.
Публичните оценки остават приблизителни
Повечето публични данни са приблизителни, тъй като компаниите рядко оповестяват подробни данни за потреблението на електроенергия за всяка заявка. TheAIMeters използва обобщени публични предположения за изследвания и инфраструктура, за да оцени мащабната дейност на ИИ. Методология.