Meta, yapay zekâ ajanlarını tek bir tüketici GPU'sunda yerel olarak çalıştırmak üzere özel olarak geliştirilen 30 milyar parametreli açık ağırlıklı model Muse Glimmer'ı yayımladı. Apache 2.0 lisansıyla dağıtılan ve Hugging Face'te sunulan model; araç kullanımı, uzun süreli görevler ve hata kurtarma gibi, bir ajanın kullanıcının kendi cihazında kesintisiz çalışması beklendiğinde belirleyici olan becerilere göre ayarlandı.
Meta, Muse Glimmer'ı 'her zaman açık yerel ajanlar' için konumlandırıyor: her şey cihazda çalıştığı için token başına API faturası, bulut gidiş-dönüş gecikmesi ve özel verileri sunucuya yükleme ihtiyacı yok. Bu sürüm, Meta'nın sınır düzeyindeki ajan yeteneklerini insanların zaten sahip olduğu donanıma indirme çabasının devamı; şirket, Muse Spark 1.2'nin açık ağırlıklarının da yolda olduğunu söylüyor.
Model, sektörün ajanların nerede yaşayacağını tartıştığı bir dönemde piyasaya çıkıyor: model filolarını koordine eden büyük bulut platformlarında mı, yoksa işin fiilen yapıldığı cihazlarda mı? Muse Glimmer, Meta'nın şimdiye kadarki en güçlü ikinci kampa bahsi: geliştiricilere, uyanık kalan, yerel kalan ve verilerini yakınında tutan asistanlar için ücretsiz ve ayarlanabilir bir temel sunuyor.
Analistler zamanlamaya dikkat çekiyor: Tüketici GPU'ları artık oyun bilgisayarlarında ve iş istasyonlarında yaygınken, tek bir karta sığan 30B'lik bir model, çok daha geniş bir geliştirici kitlesi için güvenilir, gizliliğe saygılı, gerçek zamanlı ajanları mümkün kılıyor — ve bulut öncelikli rakiplere hem fiyat hem gizlilik cephesinde meydan okuyor.
