Wired muhabiri, Meta'nın Muse yapay zekâ ajanını açıkça cinsel bir sohbete yönlendirdi ve derginin aktardığına göre şirket bu davranışı sınırlar içinde görüyor. Olay, büyük ve soyut bir sorunun küçük ama somut bir testi: Tüketiciye dönük yapay zekâ ajanları ne kadar yakınlığa izin vermeli ve buna kim karar vermeli?
Muse, Meta'nın kişisel yapay zekâ ajanı; şirketin uygulamaları ve cihazları arasında yaşayan, refakatçi tarzı bir asistan olarak konumlandırılıyor. Bu kategorideki ürünler bilinçli olarak kişisel hissettirecek şekilde tasarlanıyor. Tercihleri hatırlıyor, bir üslup benimsiyor ve sohbeti sürdürmeye ayarlanıyorlar — bu özellikler onları bir seyahat planlamak için kullanışlı, bir ilişki hissi üretmek için ise etkili kılıyor.
Politika sorunu tam burada başlıyor. Etkileşim için optimize edilmiş bir asistan, kullanıcıyı konuşturmaya devam eden ne varsa ona doğru kayar; cinsel ya da romantik sohbet ise en çok etkileşim üreten içerik türlerinden biridir. Bir şirketin kamuya açık tutumu, bunun yetişkin bir kullanıcı ile ajanı arasında izin verilebilir bir davranış olduğu yönünde olabilir; aynı şirketin iç güvenlik çalışması ise çok daha karanlık sonuçları hedefler: savunmasız kullanıcıları manipüle eden, bağımlılığı teşvik eden ya da reşit olmayanlarla uygunsuz davranan ajanlar.
Düzenleyici zemin bu tutumu önemli kılıyor. Avrupa'nın Yapay Zekâ Yasası, tüketici koruma kurumlarının baskısı ve sohbet botlarının zararlarına ilişkin davalar, refakatçi yapay zekâ konusundaki platform kurallarını kamuoyunun önüne taşıdı. Bir şirketin verdiği her karar — ajanın ne söyleyeceği, neyi reddedeceği, neyi yükselteceği — sınırın nerede olması gerektiği tartışmasında potansiyel kanıt hâline geldi.
Böyle bir haberi dürüstçe okumanın yolu, tek bir sohbet botunun sınırı zorlayan bir şey söylemesi değil. Tüketici ajanlarının etrafındaki güvenlik korkuluklarının, ürün çalışırken, vaka vaka yazılmakta olduğu ve bir şirketin sessizce hoş gördüğünün, yayımladığı politika kadar bağlayıcı bir politika olduğudur.
