Кратък отговор
ChatGPT използва електроенергия, когато обработва промптове и генерира отговори. Точното количество не се оповестява публично в реално време, така че всяка публична оценка трябва да се разглежда по-скоро като приблизителна, отколкото като одитирано измерване.
Най-често ChatGPT се използва за изводи
Когато потребителят изпрати запитване, моделът прави извод: обработва входните данни, предсказва вероятните изходни токени и връща отговор. Всяко взаимодействие изисква изчисления, които се извършват на сървъри, оборудвани със специализирани ускорители за изкуствен интелект.
Използването на електроенергия нараства с ежедневната дейност
Една заявка може да е малка в сравнение с промишленото потребление на енергия, но ChatGPT работи в световен мащаб. Милиони потребители дневно, повтарящи се промптове, по-дълги разговори и мултимодални функции могат да превърнат малките енергийни разходи за една заявка в значимо инфраструктурно търсене.
Центровете за данни увеличават режийните разходи
Електрическият отпечатък не се ограничава само до самия чип с изкуствен интелект. Поддържащите сървъри, паметта, мрежите, системите за съхранение, доставка на енергия и охлаждане също консумират енергия. Ето защо ефективността на центровете за данни е от значение при оценката на електроенергията, използвана от услугите за ИИ.
Защо оценките варират
Различните оценки зависят от предположенията за архитектурата на модела, вида на хардуера, дозирането, продължителността на отговора, използването, ефективността на центъра за данни и източниците на електроенергия. TheAIMeters представя ориентировъчни оценки и ги свързва с прозрачна методология, а не претендира за точно измерване в реално време. Вижте Методология.