짧은 답변
단일 AI 쿼리는 개별적으로 소량의 전력만 소비하지만, 최신 AI 플랫폼은 매일 수백만 또는 수십억 건의 요청을 처리합니다. 전 세계적으로 보면 이는 상당한 전력 수요를 초래합니다.
AI 추론에는 계산이 필요합니다
모든 AI 프롬프트는 GPU가 토큰 단위로 예측을 계산하는 프로세스인 추론을 트리거합니다. 대규모 언어 모델은 응답을 생성하기 위해 수십억 개의 매개변수에 대해 지속적으로 수학적 연산을 수행합니다.
GPU는 많은 양의 전력을 소비합니다
최신 AI 시스템은 병렬 연산용으로 설계된 특수 GPU에 의존합니다. 하이엔드 AI 가속기는 특히 대규모 데이터 센터 내에서 지속적으로 작동할 때 각각 수백 와트를 소비할 수 있습니다.
이미지 생성에 더 많은 전력 사용
AI 이미지를 생성하려면 일반적으로 단순한 텍스트 생성보다 더 많은 계산이 필요합니다. 확산 모델은 여러 처리 단계를 통해 이미지를 반복적으로 다듬기 때문에 GPU 사용량과 전력 소비가 증가합니다.
AI 관련 인프라도 에너지를 소비합니다
전기는 GPU 자체에만 사용되는 것이 아닙니다. AI 인프라에는 네트워킹 장비, 스토리지 시스템, 냉각 시스템, 백업 전원 시스템, 데이터 센터 운영에도 전기가 필요합니다.