Yapay zekâ sektöründe bugüne kadar şirketlerin başlıca gider kalemi modellerin eğitilmesi için yapılan harcamalar oldu. Giderek daha gelişmiş modeller geliştirmek için birbirleriyle yarışa giren şirketler, bu uğurda dev paralar harcadı. Ancak bu durum yavaş yavaş değişmeye başlıyor. Şirketler yapay zekâlarını geliştirmek için yine kayda değer paralar harcıyor harcamasına ama asıl para artık bu modelleri çalıştırmaya, yani çıkarım (inference) masraflarına gidiyor. Şirketler bu modelleri kendi uygulamalarına ve iş süreçlerine entegre etmeye başladıkça, eğitilmiş modellerin sürekli olarak çalıştırılması için gereken altyapı da giderek daha önemli hâle geliyor. Araştırma şirketi Gartner’ın yeni raporu da yapay zekâ sektöründeki bu dönüşümün önemli bir eşiği geçtiğini gösteriyor. Rapora göre yapay zekâ çıkarımına yapılan harcamalar, 2026 yılında ilk kez model eğitimine yapılan harcamaları geride bırakacak.
Gartner’ın tahminlerine göre bulut sağlayıcıları, 2026 yılında yapay zekâ modellerini eğitmek için yaklaşık 19 milyar dolar harcayacak. Buna karşılık çıkarım, yani eğitilmiş modellerin gerçek dünyadaki görevleri yerine getirmesi için 23,3 milyar dolar harcanacak. Tabii bunlar mevcut altyapıların oluşturduğu maliyetler. Gartner, AI altyapısını güçlendirmek için kurulan veri merkezlerine yapılan yüz milyarlarca dolarlık harcamaları hesaba katmıyor. Burada daha spesifik olarak yapay zekâ için optimize edilmiş IaaS harcamalarına; yani GPU, işlem gücü, depolama ve ağ kaynakları gibi hizmetlerin maliyetine odaklanılıyor.
AI Ajanlarının Yükselişi Çıkarım Masraflarını Artırdı
Gartner’ın kıdemli baş analisti Hardeep Singh’e göre bu değişim, şirketlerin yapay zekâyı artık gerçek iş süreçlerine entegre etmeye başladığını gösteriyor. Bu dönüşümde AI ajanlarının yükselişi de önemli bir rol oynuyor. AI ajanları yalnızca kullanıcının sorusuna yanıt vermek yerine bir görevi baştan sona gerçekleştirebildikleri için modellerin çok daha sık çalıştırılmasını gerektiriyor.
Gartner’a göre şirketlerin yapay zekâ altyapısını artık deneysel bir bütçe kalemi olarak değil, stratejik bir yatırım olarak görmesi gerekiyor. Yapay zeka şirketlerin günlük iş süreçlerine daha fazla dahil oldukça yüksek performans, düşük gecikme süresi ve ölçeklenebilirlik sağlayan altyapılara ihtiyaç duyulacak. Bu nedenle şirketlerin genel bulut, özel bulut, colocation, uç bilişim ve egemen bulut gibi farklı altyapıları bir arada kullanan hibrit çözümlere yönelmesi bekleniyor.
