AI casusları, ChatGPT üzere sohbet botlarından 136 kat daha fazla güç tüketiyor

Yapay zekâ alanında yaşanan patlamaya ChatGPT, Gemini, Grok gibi sohbet botları öncülük etmiş olsa da teknoloji şirketlerinin odağı giderek AI ajanlarına, yani belli başlı görevleri otonom olarak yerine getirebilen yapay zekâ sistemlerine kayıyor. Zira bu araçların önümüzdeki dönemde tüm internet deneyiminin çehresini değiştireceği düşünülüyor. Ancak AI ajanlarının yaygınlaşması, önemli bir sorunu da beraberinde getiriyor: Karşılaması giderek güçleşen devasa bir enerji ihtiyacı.

Bildiğiniz gibi yapay zekânın giderek artan enerji ihtiyacı hâlihazırda ciddi bir problem hâline gelmiş durumda. Veri merkezlerine ve enerji altyapısına yapılan dev yatırımlara rağmen bugün Google gibi dev şirketler bile talebi karşılamakta güçlük çekiyor. Üstelik yayımlanan yeni bir rapor, AI ajanlarına geçişle birlikte bu krizin daha da derinleşeceğini gösteriyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) tarafından yürütüen çalışma, yapay zekâ ajanlarının elektrik tüketimini somut verilerle ölçen ilk araştırmalardan biri olma özelliğini taşıyor. Araştırmaya göre yapay zekâ ajanları, sohbet botlarına kıyasla sorgu başına 136,5 kata kadar daha fazla enerji tüketebiliyor. Araştırmacılar, bu farkın AI ajanlarının yaygınlaşması hâlinde küresel elektrik şebekeleri üzerinde ciddi bir baskı oluşturabileceği konusunda uyarıyor.

Yapay Zekâ Ajanları Neden Bu Kadar Fazla Enerji Tüketiyor?

ChatGPT benzeri bir sohbet botu genellikle tek bir istemi işleyip yanıtını oluşturduktan sonra süreci tamamlıyor. Yapay zekâ ajanları ise bunun yerine kendilerine verilen hedefe ulaşabilmek için çok sayıda ara adımı bağımsız olarak planlıyor ve yürütüyor. Örneğin kullanıcı bir AI ajanından tatil planlamasını ya da bütçesini organize etmesini istediğinde, sistem yalnızca tek bir cevap üretmiyor. Bunun yerine internette aramalar yapıyor, farklı kaynaklardan bilgi topluyor, hesaplamalar gerçekleştiriyor, gerektiğinde başka araçları kullanıyor ve tüm bu süreç boyunca temel dil modelini defalarca çalıştırıyor. Bu sürekli döngü hâlindeki işlem süreci de doğal olarak enerji tüketimini katlayarak artırıyor.

Araştırmacılar, ticari yapay zekâ sistemlerine yakın ölçekli, 70 milyar parametreli bir büyük dil modeli üzerinde gerçekleştirdikleri testlerde tek bir karmaşık ajan sorgusunun ortalama 348,41 watt-saat elektrik tükettiğini belirledi. Yapılan karşılaştırmalarda Meta’nın Llama-3.1-Instruct 70B modeli üzerinde çalışan Reflexion isimli ajan çerçevesi, standart bir sohbet botuna göre sorgu başına 136,5 kat daha fazla GPU enerjisi tüketirken, LATS adlı başka bir ajan sistemi ise bu rakamın 62,1 katına ulaştı.

GPU’lar Zamanın Büyük Bölümünde Boşta Bekliyor

Araştırma yalnızca toplam enerji tüketimine değil, bu enerjinin neden harcandığına da ışık tutuyor. Testler, yapay zekâ ajanlarının cevap üretme süresinin standart sohbet botlarına göre 153,7 kata kadar daha uzun olabildiğinigösteriyor. Bunun önemli nedenlerinden biri de GPU’ların verimsiz kullanılması. Araştırmacılara göre pahalı yapay zekâ işlemcileri zamanlarının yarısından fazlasını herhangi bir hesaplama yapmadan, yalnızca harici internet siteleri veya diğer yazılım araçlarından gelecek yanıtları bekleyerek geçiriyor. Ancak bu bekleme sırasında bile sistem çalışmaya devam ettiği için elektrik tüketimi sürüyor. Yani enerji tüketiminin önemli bir kısmı doğrudan hesaplama yapmak yerine bekleme sürecinde gerçekleşiyor.

Araştırmanın belki de en dikkat çekici kısmı ise küresel ölçekte yapılan projeksiyonlar. Araştırmacılar, yapay zekâ ajanlarının günlük kullanımının dünya genelinde yaklaşık 13,7 milyar isteğe ulaşması durumunda veri merkezlerinin toplam güç ihtiyacının yaklaşık 199 gigavata çıkabileceğini hesaplıyor. Bu rakam, Amerika Birleşik Devletleri’nin ortalama elektrik tüketiminin yaklaşık yarısına karşılık geliyor. Dolayısıyla yapay zekâ ajanlarının yaygınlaşması, yalnızca teknoloji şirketlerinin veri merkezlerini değil, ülkelerin elektrik altyapılarını da doğrudan ilgilendiren bir mesele hâline gelebilir.

Profesör Rhu Min-soo’ya göre bu sorunun yalnızca daha verimli yazılımlar geliştirerek çözülmesi mümkün görünmüyor. Araştırmacılar, yapay zekâ ajanlarının oluşturacağı yeni iş yükünü karşılayabilmek için yalnızca yapay zekâ modellerinin değil, bunları çalıştıran mikroçiplerin ve veri merkezlerinin elektrik altyapısının da yeniden tasarlanması gerektiğini savunuyor.