Kısa cevap
ChatGPT, istemleri işlediğinde ve yanıtlar oluşturduğunda elektrik kullanır. Kesin miktar gerçek zamanlı olarak kamuya açıklanmamaktadır, bu nedenle kamuya açık herhangi bir tahmin, denetlenmiş bir ölçümden ziyade yaklaşık bir tahmin olarak ele alınmalıdır.
ChatGPT kullanımının çoğu çıkarımdır
Bir kullanıcı bir istem gönderdiğinde, model çıkarım yapar: girdiyi işler, olası çıktı belirteçlerini tahmin eder ve bir yanıt döndürür. Her etkileşim hesaplama gerektirir ve bu hesaplama özel yapay zeka hızlandırıcılarıyla donatılmış sunucularda çalışır.
Elektrik kullanımı günlük aktivitelerle birlikte artıyor
Tek bir talep endüstriyel enerji kullanımına kıyasla küçük olabilir, ancak ChatGPT küresel ölçekte çalışır. Milyonlarca günlük kullanıcı, tekrarlanan istemler, daha uzun konuşmalar ve çok modlu özellikler, talep başına küçük enerji maliyetlerini anlamlı altyapı talebine dönüştürebilir.
Veri merkezleri ek yük getiriyor
Elektrik ayak izi yapay zeka çipinin kendisiyle sınırlı değildir. Destekleyici sunucular, bellek, ağ, depolama, güç dağıtımı ve soğutma sistemleri de enerji tüketir. Bu nedenle, yapay zeka hizmetleri tarafından kullanılan elektriği tahmin ederken veri merkezi verimliliği önemlidir.
Tahminler neden değişir?
Farklı tahminler model mimarisi, donanım türü, gruplama, yanıt uzunluğu, kullanım, veri merkezi verimliliği ve elektrik kaynağı ile ilgili varsayımlara bağlıdır. TheAIMeters, tam gerçek zamanlı ölçüm iddiasında bulunmak yerine yön tahminleri sunar ve bunları şeffaf bir metodolojiye bağlar. Bkz Metodoloji.