Ne Oldu
Meta, yapay zeka destekli içerik moderasyonuna geçişini hızlandırıyor ve sistemlerinin insan denetçilerden yüzde 13 daha az hata yaptığını ve yüzde 10 daha fazla politika ihlali tespit ettiğini iddia ediyor. Ancak 21 Temmuz'da yayınlanan kapsamlı bir New York Times soruşturması, hesapları yapay zeka tarafından haksız yere silinen ve hiçbir insanın davalarını incelemediği otomatik bir itiraz sisteminde mahsur kalan kullanıcıların karanlık yüzünü ortaya koyuyor.
Neredeyse bir milyon Instagram takipçisiyle bir iş kuran İngilizce öğretmeni Camille Hanson, bir gece uyandı ve hesaplarının "dolandırıcılık ve aldatma" nedeniyle işaretlendiğini gördü. İtiraz etti. Bir hafta sonra yapay zeka reddetti. Meta'nın yanıtında "Tüm bilgileriniz kalıcı olarak silinecek" yazıyordu. "Bu kararın başka bir incelemesini talep edemezsiniz."
Diğer bir kullanıcı olan Athenia Rodney, Amerika Birleşik Devletleri'nde köleliğin sona ermesini anan JuneteenthNY'yi yönetiyor. 17 yıllık aktivizmin ardından Meta, hesabını — her şeyden öte — çocuk cinsel istismarı materyali gerekçesiyle sildi. "Yaptığımız her şey aile dostudur," dedi.
Neden Önemli
Her iki şey de doğru olabilir: yapay zeka ortalama olarak daha doğrudur ve yine de Meta'nın milyar kullanıcılı ölçeğinde büyük mutlak sayıda feci hata üretir. Daha derin sorun yapısaldır — sizi yasaklayan aynı yapay zeka itirazınızı da ele aldığında, gücü üzerinde anlamlı bir denetim yoktur.
