Token Karmaşası
Token'lar — AI girdi ve çıktısının temel birimi — AI çağının para birimi haline geldi. Ancak Barron's'daki yeni bir analize göre sistem bozuk. Müşteriler bütçe yapamadıkları için kafası karışık, Wall Street ise perakende veya bulut hizmetlerinde olduğu gibi fiyatlandırmayı takip edemediği için şaşkın.
Anthropic Karmaşıklığı
Anthropic, token'ları herkesten farklı sayarak işleri daha da kötüleştiriyor. Şirket yakın zamanda bazı ürünlerin metni tokenize etme şeklini değiştirdi, bu da aynı kelimelerin eskisinden %30 ila %40 daha fazla token kullanması anlamına geliyor. Token başına ödeme yapan kurumsal müşteriler için bu tutarsızlık bir kabus.
Ajan Sorunu
Daha büyük sorun, basit bir komuttan karmaşık görevleri yerine getirebilen ancak token'ları şaşırtıcı bir hızda tüketen AI ajanlarının yükselişi. Google, Microsoft ve önde gelen üniversitelerden yapılan bir araştırma, kodlama ajanlarının aynı görevler için insanlardan bin kat daha fazla token ürettiğini buldu.
Maliyet Gerçeği
En iyi ChatGPT modeli için kurumsal fiyatlandırma, milyon token başına 50 sent ila 30 dolar arasında değişiyor. Bu ucuz gibi görünse de, adım adım 'düşünen' muhakeme modelleri ve otonom çalışan ajanlar maliyetleri çarpıcı şekilde artırıyor.
Wall Street'in İkilemi
Analistler token'ları AI ticareti sağlığı için bir vekil olarak kullanmak istiyor, ancak fiyatlandırma karmaşası bunu imkansız kılıyor. ABD öncü modellerinin maliyetleri artarken, şirketler Çin'in ucuz modelleri de dahil olmak üzere fiyat eğrisinde aşağı iniyor.
