Yapay Zekâ Altyapısı, Çıkarım Harcamalarını Geride Bırakacak

Yapay zekâ sektöründe bugüne kadar şirketlerin başlıca gider kalemi modellerin eğitilmesi için yapılan harcamalar oldu. Giderek daha gelişmiş modeller geliştirmek için birbirleriyle yarışa giren şirketler, bu uğurda dev paralar harcadı. Ancak bu durum yavaş yavaş değişmeye başlıyor. Şirketler yapay zekâlarını geliştirmek için yine kayda değer paralar harcıyor harcamasına ama asıl para artık bu modelleri çalıştırmaya, yani çıkarım (inference) masraflarına gidiyor.

Haberi okuduğunuz için teşekkürler, bizi takip etmeyi unutmayın!

Şirketler, modelleri kendi uygulamalarına ve iş süreçlerine entegre etmeye başladıkça, eğitilmiş modellerin sürekli olarak çalıştırılması için gereken altyapı da giderek daha önemli hâle geliyor. Araştırma şirketi Gartner’ın yeni raporu, yapay zekâ sektöründeki bu dönüşümün önemli bir eşiğini geçtiğini gösteriyor. Rapora göre yapay zekâ çıkarımına yapılan harcamalar, 2026 yılında ilk kez model eğitimine yapılan harcamaları geride bırakacak.

Gartner’ın tahminlerine göre bulut sağlayıcıları, 2026 yılında yapay zekâ modellerini eğitmek için yaklaşık 19 milyar dolar harcayacak. Buna karşılık çıkarım, yani eğitilmiş modellerin gerçek dünyadaki görevleri yerine getirmesi için 23,3 milyar dolar harcanacak. Tabii bunlar mevcut altyapıların oluşturduğu maliyetler. Gartner, AI altyapısını güçlendirmek için kurulan veri merkezlerine yapılan yüz milyarlarca dolarlık harcamaları hesaba katmıyor. Burada daha spesifik olarak yapay zekâ için optimize edilmiş IaaS harcamalarına; yani GPU, işlem gücü, depolama ve ağ kaynakları gibi hizmetlerin maliyetine odaklanılıyor.

Gartner’ın kıdemli baş analisti Hardeep Singh’e göre bu değişim, şirketlerin yapay zekâyı artık gerçek iş süreçlerine entegre etmeye başladığını gösteriyor. Bu dönüşümde AI ajanlarının yükselişi de önemli bir rol oynuyor. AI ajanları yalnızca kullanıcının sorusuna yanıt vermek yerine bir görevi baştan sona gerçekleştirebildikleri için modellerin çok daha sık çalıştırılmasını gerektiriyor.

Gartner’a göre şirketlerin yapay zekâ altyapısını artık deneysel bir bütçe kalemi olarak değil, stratejik bir yatırım olarak görmesi gerekiyor. Yapay zeka şirketlerin günlük iş süreçlerine daha fazla dahil oldukça yüksek performans, düşük gecikme süresi ve ölçeklenebilirlik sağlayan altyapılara ihtiyaç duyulacak. Bu nedenle şirketlerin genel bulut, özel bulut, colocation, uç bilişim ve egemen bulut gibi farklı altyapıları bir arada kullanan hibrit çözümlere yönelmesi bekleniyor.

Bu dönüşümün önümüzdeki yıllarda daha da önemli olacağını belirten Gartner, şirketlerin yapay zekâ altyapısını güçlendirmek için daha fazla yatırım yapması gerektiğini vurguluyor. Yapay zekâ şirketlerin günlük iş süreçlerine daha fazla dahil oldukça yüksek performans, düşük gecikme süresi ve ölçeklenebilirlik sağlayan altyapılara ihtiyaç duyulacak.