Yapay zeka ne kadar enerji tüketiyor? Bir Gemini mesajı dokuz saniyelik televizyon izleme süresine eşdeğer.


Chatbot'ların asla kesin ve net bir cevabı olmayan iki soru var: "Bunu sana kim söyledi? Emin misin?" ve "Ne kadar enerji tüketiyorsun?" İlk ikisi üzerinde çalışıyorlar, ancak sonunda üçüncüsü hakkında somut bir bilgiye sahibiz.
Ortalama bir Gemini metin sorgusu 0,24 watt saat tüketir ve 0,03 gram CO₂ üretir. Bu, 9 saniyeden kısa bir süre televizyon izlemek için gereken enerjiye eşdeğerdir. Üniversiteler ve araştırma merkezleri tarafından yapılan diğer araştırmalardan çok daha düşük olan bu tahminler, Gemini modeline odaklanan yapay zeka sorgularının çevresel etkileri üzerine bir çalışmayı sunmak üzere düzenlenen bir basın toplantısında sunuldu.
Google, yapay zekanın 2022'de ortaya çıkışından bu yana ilk kez rakam yayınladı. Etkinlikte açıklanan sebep, enerji tüketimleri konusunda şimdiye kadar sessiz kalan Microsoft, AWS ve OpenAI gibi diğer yapay zeka sağlayıcılarını ifşa etmeye yardımcı olmak.

Şekil, Mayıs 2024'ten Mayıs 2025'e kadar Gemini modeli için her bir istem için emisyonlardaki azalmayı göstermektedir. Kapsam 2 emisyonları, öncelikle model verimliliği ve makine kullanımındaki iyileştirmeler sayesinde, her bir istem için 1,07 gCO₂e'den 0,02 gCO₂e'ye 47 kat azaltılmıştır. Kapsam 1+3 emisyonları ise her bir istem için 0,36 gCO₂e'den 0,01 gCO₂e'ye 36 kat azalmıştır. Özetle, grafik, model optimizasyonunun, iyileştirilmiş donanım yönetiminin ve temiz enerji tedarikinin, her bir istem için üretilen karbon ayak izini nasıl önemli ölçüde azalttığını ve özellikle Kapsam 2 emisyonlarında önemli bir azalma sağladığını göstermektedir.
Google'da Mühendislik Üyesi ve Başkan Yardımcısı olan Partha Ranganathan'ın açıkladığı gibi: "Kapsamlı bir metodoloji geliştirin ve sonuçlarını paylaşın. Nihai hedefimiz, yapay zeka çıkarımının çevresel etkisini ve göreceli verimliliğini ölçmede sektör genelinde tutarlılığı teşvik etmektir." Dolayısıyla amaç, yapay zeka sektörü genelinde ortak bir standart önermek olacaktır.

Grafik, Meta (Llama), OpenAI (GPT) ve Google (Gemini) gibi çeşitli büyük dil modellerinin (LLM) enerji verimliliğini ve performansını karşılaştırmaktadır. Google'ın modelleri (Gemini), kWh başına yüksek sayıda komut istemi ve yüksek bir Arena Puanı ile en enerji verimli modeller olarak sıralanmaktadır. "Ortanca İkizler" etiketli mavi çubuk, farklı yaklaşımlarla ("Kapsamlı Ölçüm Yaklaşımı" ve "Mevcut Ölçüm Yaklaşımı") ölçülen geniş bir verimlilik yelpazesini göstermektedir.
Sektördeki mevcut hesaplama metodolojilerinin çoğu, birçok kritik faktörü göz ardı ediyor ve temel donanım ve veri merkezlerinden modelin kendisine kadar yapay zeka yığınının her katmanını hesaba katmıyor. Google, bu sorunu çözmek için yalnızca çip gücünü değil, boştaki makinelerin güç tüketimini, CPU'ları, RAM'i, soğutmayı ve güç dağıtımını da içeren kapsamlı bir metodoloji geliştirdi.
Şirketin bilgi işlem altyapısı ve veri merkezlerinden sorumlu olan ve özellikle verimlilik ve sürdürülebilirliğe odaklanan Partha Ranganathan'ın da belirttiği gibi, çalışma yalnızca ortalama metin tabanlı sorulara odaklanıyor. Analiz 12 aylık bir dönemi kapsıyor ve bu nedenle daha geniş bir yelpazede soru içeriyor. Özellikle, enerji tüketimi açısından 50. yüzdelikte yer alan soru olarak tanımlanan "ortanca soru" ölçüldü. Süreç şu şekilde işliyor: Her yapay zeka modeli için, tek bir soruyu (tek bir kullanıcı isteğini) işlemek için tüketilen ortalama enerji hesaplanıyor. Bir sıralama oluşturuluyor: Kullanıcılar tarafından gönderilen tüm sorular bir listeye yerleştiriliyor ve bunları işlemek için gereken enerji tüketimine göre sıralanıyor. Bu noktada, 50. yüzdelik, yani bu sıralamanın tam ortasında yer alan soru belirleniyor. Bu, "ortanca soru". Bu çalışmanın sınırlılığı, görüntü ve video üreten ve bu nedenle daha enerji yoğun olarak kabul edilen metinden görüntüye ve metinden videoya sistemleri hakkında hiçbir bilgi vermemesidir. Araştırmacılar, diğer üretim türlerinin etkisinin nasıl ölçüleceği konusunda çok az fikir birliği olduğunu açıkladı. Ayrıca, Google arama sorgularının enerji etkisini bir Gemini sorgusuyla karşılaştıran tahminler sunmak bilimsel olarak yanlış olacaktır.
"Etkileşim kalıpları farklı," dedi Ranganathan. "Bu, elmalarla portakalları karşılaştırmak gibi olurdu."

Bu tablo, yapay zeka modellerinin enerji tüketimini ölçmek için farklı metodolojileri karşılaştırarak, mevcut yaklaşımları önerilen bir metodolojiyle (Önerilen Yaklaşım) karşılaştırmaktadır. Tablo, tüketimi farklı kategorilere ayırmaktadır: "Çip Gücü", "Kullanım", "CPU ve RAM", "Boşta Kalan Makineler" ve "Genel Giderler". "Kapsamlı Yaklaşım" olarak adlandırılan bu yaklaşım, enerji tüketiminin daha kapsamlı ve gerçekçi bir şekilde ölçülmesini amaçlamaktadır.
Gemini'de ortalama bir sorgu veya ortanca istem 0,26 ml su (yaklaşık 5 damla) kullanır. Google uzmanları, su kullanımının hava soğutmaya kıyasla enerji tüketimini %10 azaltabileceğini belirtti. Mesa, Arizona gibi su sıkıntısı çeken bölgelerdeki tesisler, yerel kaynaklara zarar vermemek için hava soğutmayı tercih ediyor. Veri merkezlerinin %25'inden fazlası içilemez veya geri dönüştürülmüş su kullanıyor.
Sorgu başına 0,24 Wh düşük görünebilir, ancak bu rakam yalnızca "merhaba" gibi çok basit bir komut için mi? Konuşma geliştikçe enerji tüketimi artar, sorgular daha karmaşık hale gelir ve buna bağlı olarak gereken bellek de büyür. Birçok analist, üretken yapay zekanın tek bir sorgu başına çevresel etkisini ölçmenin çok önemli bir bilgi olduğunu savunuyor, ancak bu, yapay zekanın kullanıcıların her gün sorduğu sorgu hacmi açısından gerçek etkisini tahmin etmeye yardımcı olmuyor. Google'ın 2025'in ikinci çeyreğine ait üç aylık verilerine baktığımızda, kullanıcı sayısını sayabiliyoruz ancak trafik hacmini sayamıyoruz. Gemini uygulamasının aylık 450 milyondan fazla aktif kullanıcısı var ve günlük istekler ilk çeyreğe kıyasla %50'den fazla arttı. Bu nedenle Gemini'nin ne kadar enerji tükettiğini bilmiyoruz. Benimsenirse piyasadaki hukuk lisans programlarını (LL.M.) karşılaştırmaya yardımcı olabilecek bir ölçütle yetinmek zorundayız.
Gemini gibi yapay zeka modellerinin boyutu katlanarak büyüdü (yaklaşık her üç buçuk ayda bir ikiye katlanıyor). Google'ın, akıllı kontroller uygulayarak ve güç dağıtım sistemlerini yeniden tasarlayarak enerji verimliliğini artırmak için yenilikler yaptığını açıkladılar. Ayrıca, yapay zeka iş yüklerini şebeke stresinin daha az olduğu dönemlerde elektrik kullanacak şekilde değiştiriyorlar.
Google, 12 ayda enerji açısından sorgu ayak izini 33 kat, CO₂ emisyonu açısından ise 44 kat azalttı.
Siyasi, ekonomik ve finansal olaylara ilişkin haberler ve görüşler.
Üye olmakilsole24ore