Gartner, Inc. Pazartesi günü, yapay zeka patlamasının gizli maliyetine dikkat çeken bir öngörü yayımladı: Temel model fiyatları düşmeye devam etse bile, aracı iş akışı başına çıkarım maliyetlerinin 2028'e kadar beş kattan fazla artacağı tahmin ediliyor.
Daha ucuz modeller ile daha pahalı faturalar arasındaki bu görünürdeki çelişki, Gartner'ın "çıkarım paradoksu" olarak adlandırdığı durum. Düşen token fiyatları, şirketleri giderek daha karmaşık aracı sistemler kurmaya teşvik ediyor ve bu sistemler o kadar çok token tüketiyor ki tasarruflar eziliyor.
"Sıradan bir sohbet botu bir sorguyu okuyup yorumlamak ve olasılıksal olarak makul bir yanıtla hızlıca karşılık vermek zorundayken, bir yapay zeka aracısı sürekli akıl yürütmek, pazarlık etmek ve kendini sorgulamak zorundadır," dedi Gartner kıdemli direktör analisti Will Sommer.
Analist firmaya göre, bir görevi aracı bir akıl yürütme modeline yönlendirmek çıkarım maliyetlerini en az beş kat artırıyor — görevler karmaşıklaştıkça bu oran çok daha yükseğe çıkabilir. Bu bulgu, Nvidia ve diğer teknoloji devlerinin çıkarımı ve aracı yapay zekayı yapay zeka dalgasının bir sonraki aşaması olarak sunması ve bazı sağlayıcıların sabit fiyatlı aboneliklerden kullanım başına faturalandırmaya geçmesiyle aynı döneme denk geliyor.
Ekonomiyi çalıştırmak için Gartner, kuruluşların ya temel modellerin sunduğundan çok daha yüksek getiri elde etmesi ya da çıkarım, yönlendirme ve orkestrasyon optimizasyonunu ciddi şekilde iyileştirmesi gerektiğini söylüyor — örneğin her görevi, onu yapabilecek en ucuz modele atayarak.
Bu uyarı, Gartner'ın bu yılın başlarında yaptığı, kuruluşların %40'ının artan maliyetler, belirsiz iş değeri veya yetersiz risk kontrolleri nedeniyle 2027 sonuna kadar yapay zeka aracılarını gözden düşüreceği veya hizmet dışı bırakacağı öngörüsünün devamı niteliğinde.
