短い答え
AIのクエリ1つ1つが消費する電力はわずかかもしれないが、最新のAIプラットフォームは毎日数百万、数十億のリクエストを処理している。世界規模になると、これは大きな電力需要につながる。
AIの推論には計算が必要
GPUがトークンごとに予測を計算するプロセスだ。大規模な言語モデルは、応答を生成するために、何十億ものパラメータにわたって数学的演算を継続的に実行する。
GPUは大量の電力を消費する
最新のAIシステムは、並列計算用に設計された専用のGPUに依存している。ハイエンドのAIアクセラレータは、特に大規模なデータセンター内で連続的に動作する場合、それぞれ数百ワットを消費する可能性がある。
イメージ発電はさらに電力を使う
AI画像の生成には、一般的に単純なテキスト生成よりも多くの計算が必要となる。拡散モデルは多くの処理ステップを経て繰り返し画像を洗練させるため、GPUの使用量と電力消費量が増加する。
AIを取り巻くインフラもエネルギーを消費する
電力はGPUそのものに使われるだけではない。AIインフラには、ネットワーク機器、ストレージシステム、冷却システム、バックアップ電源システム、データセンターの運用も必要だ。