なぜAIはこれほど電力を消費するのか？

AIシステムは、保存された回答リストから返事をしているわけではない。ユーザーがプロンプトを送信したり、画像をアップロードしたり、AI APIを呼び出したりすると、システムは学習済みモデルで数学的な処理を行い、出力を生成する。

その処理にはプロセッサ、メモリ、ネットワーク、ストレージが必要だ。1回のリクエストは小さくても、現代のAI製品はチャットボット、検索アシスタント、コーディングツール、画像生成、業務アプリケーションで膨大なトラフィックを処理する。

そのため、エネルギー利用はAIインフラと切り離せない。画面上では短い回答に見えても、その背後ではチップ、サーバー、データセンター、冷却設備、電力システムが物理的な仕事をしている。

現代のAIはGPUに大きく依存している。ニューラルネットワークには並列に実行できる計算が多く含まれるためだ。GPUはこのような並列計算のために設計されており、多くの学習や推論の負荷ではCPUより適している。

一方で、高性能GPUサーバーは大きな電力を消費する。特にクラスター内で高い稼働率で動く場合はそうだ。大規模なAI運用では、多数のアクセラレータを高速ネットワークでつなぎ、データ共有と計算同期を行う。

これはGPUがAIに非効率という意味ではない。多くの場合、GPUはその処理に対して効率的な選択肢だ。ただし処理が大規模で継続的なため、GPUクラスターはAIの電力需要で最も目立つ要素の一つになる。

学習は、モデルがデータから学ぶ段階だ。大規模な学習では、膨大なデータセットを何度も処理し、数十億のパラメータを調整して、予測、生成、分類に役立つモデルにする。

この作業は、大規模なGPUクラスターを数日、数週間、あるいはそれ以上稼働させることがある。多数のアクセラレータ、ストレージ、ネットワークが同じ学習ジョブで同時に動くため、エネルギー需要は集中する。

学習だけがAIのエネルギー利用ではないが、フロンティアモデルの開発、実験、再学習では大きな電力ピークとデータセンター容量が必要になるため重要だ。

推論は、学習済みモデルを実際に使う段階だ。ChatGPTのような回答、画像生成、翻訳、推薦、要約、コード提案のすべてに推論計算が必要になる。

学習とは異なり、推論はユーザーが本番環境のAIシステムを使うたびに発生する。サービスが数百万から数十億のプロンプト、画像リクエスト、API呼び出しを処理すれば、1回あたりの小さなエネルギーも大きな日次需要になる。

そのため、AIのエネルギー利用は普及度と強く結びついている。検索、オフィスツール、ソフトウェア開発、顧客対応、メディア制作、モバイル機器にAIが組み込まれるほど、推論インフラは継続的に動き続ける必要がある。

AIハードウェアはデータセンター内で動き、GPUは電力の話の一部にすぎない。サーバーにはメモリ、ストレージ、ネットワーク機器、電源、バックアップシステムが必要で、データは機械、ラック、ときには地域間を移動する。

冷却も重要だ。高密度のAIサーバーは多くの熱を出すため、施設は空冷、液冷、チラー、ポンプ、ファン、熱交換器を使って、安全な温度範囲を保つ。

データセンター効率はよくPUEで表される。PUEが低いほど、施設の補助設備ではなく計算機器に使われる電力の割合が高い。ただし大規模データセンターが補助エネルギーなしで動くことはない。

公開推定値がばらつくのは、多くのAI事業者がモデル、製品、リクエスト種別ごとの完全なリアルタイム電力消費を公開していないためだ。研究者や分析者は、公開された利用状況、ハードウェア前提、モデル規模、データセンター効率の範囲を組み合わせる必要がある。

結果は多くの変数に左右される。モデルサイズ、トークン数、画像解像度、ハードウェア世代、稼働率、バッチ処理、メモリ帯域、地域、電源構成、そしてシステムが学習中か、推論中か、待機中かによって変わる。

そのためAIの電力データは、正確な公式測定値というより方向性を示す推定値として扱うべき場合が多い。重要なのは単一の数字より、どの要因がエネルギー利用を増減させるかだ。

同等のタスクで見れば、AIはより効率的になり得る。より良いチップ、改良されたモデル構造、量子化、キャッシュ、バッチ処理、蒸留、小型モデルへのルーティングは、有用な出力に必要な計算を減らせる。

データセンターも、より良い冷却、高いハードウェア稼働率、よりクリーンな電力調達、効率的な電力供給で改善できる。これらは無駄を減らし、リクエストあたりのエネルギーを下げる。

難しいのは総需要だ。効率が上がってもAI利用がそれ以上に伸びれば、総電力消費は増える可能性がある。公平に見るには、タスクあたりの効率と世界的なAI普及の規模の両方を追う必要がある。