Meta, kullanıcılara son derece kişisel sorular yönelten bir özelliği düzelttiğini açıkladı. Öncesinde viral olan bir video, şirketin yapay zekâ asistanının bir kadının küçük kızlarıyla ilgili ayrıntıları, kadının ve akrabalarının paylaştığı içeriklerden bir araya getirdiğini gösterdi.
Instagram kullanıcısı Kalie Robins, çocuğuyla arabada şarkı söylediği bir klibi Facebook'ta da paylaştıktan sonra yaşananları anlatan bir video yayımladı. Videonun altında Meta AI 'Yolcu çocuk kim?' istemini sundu. Robins dokunduğunda asistanın, kızlarına ilişkin bilgileri önceki paylaşımlarından ve yakınlarının paylaşımlarından birleştirdiğini, ardından çocukların yaşı ve ailenin nerede yaşadığına dair yeni istemler önerdiğini söyledi. Asistan ayrıca kızlarının fotoğraflarını da gösterdi — Robins'in yıllar önce sildiğini belirttiği bir fotoğraf dahil.
Olayı ilk olarak Futurism haberleştirdi. Meta sözcüsü Dina El-Kassaby, The Verge'e verdiği demeçte şirketin 'hedefi tutturamadığını' ve 'bu özelliğin kişiyi asla böyle sorularla karşı karşıya bırakmaması gerektiğini' söyledi. El-Kassaby, Meta AI'nın kişisel konularda istem önermesine yol açan sorunun düzeltildiğini belirtti. Bir istemden üretilen yanıtların, kullanıcının zaten erişimi olan bilgilere dayandığını; bu olayda asistanın Robins'in çocuklarının adını verdiği videolardan yararlanmış olabileceğini ekledi.
Olay, yapay zekâ gizlilik şikayetlerinin yoğun olduğu bir döneme denk geliyor. Meta asistanını Facebook, Instagram, WhatsApp ve Messenger'a yerleştirdi; burada soruları yanıtlıyor, gönderi taslakları yazıyor ve görsel üretiyor. Şirket temmuz ayında, kullanıcıların diğer Instagram kullanıcılarının yapay zekâ deepfake'lerini oluşturmasına izin veren bir özelliği tepkiler üzerine geri çekti. Daha yeni Muse asistanı da insanlar hakkında — grup sohbetlerinde bile — kendiliğinden bilgi paylaşma biçimiyle eleştiri topladı.
Kullanıcılar açısından pratik zorluk tanıdık: Meta'nın anlatımına göre yanıtlar, soruyu soran kişinin zaten görebildiği içeriklerden derlendi. Bu çerçeve dar bir soruyu yanıtlıyor — yapay zekâ erişim kontrollerini ihlal etti mi — ve daha geniş bir soruyu açık bırakıyor: Bir asistan, insanları yıllara yayılan aile paylaşımlarından bir çocuğun kimliğini yeniden kurmaya aktif olarak teşvik etmeli mi? Robins'in videosu, pek çok kullanıcının bu soruya 'hayır' dediğini gösteriyor ve Meta da istemleri buna göre değiştirdi.
