Meta'nın bu hafta görüntü oluşturma modeli Muse Image'ın lansmanıyla birlikte önizlemeye sunulan yeni yapay zeka tespit aracı, Reuters'in 10 Temmuz'da yayınladığı analize göre, kendi yapay zeka tarafından oluşturulan görüntülerinin bir kısmını kırpıldıktan sonra tanımlayamadı.
Muse Image kullanılarak oluşturulan 40 görüntü üzerinde yapılan analizde Reuters, tespit aracının tüm orijinal yapay zeka görüntülerini doğruladığını ancak aynı görüntülerin yaklaşık üçte bir ila yarısına kırpılmasından sonra %55'ini doğrulayamadığını tespit etti.
Meta, web sitesinde önizleme tespit aracının, her Muse Image çıktısına gömülü, Content Seal adlı görünmez bir filigran sistemi sayesinde kendi yapay zeka görüntülerini kırpılmış olsa bile tanımlayabileceğini iddia ediyor. Ancak Reuters bulgularıyla ilgili soruşturulduğunda Meta, aracın yalnızca bir önizleme olduğunu ve görüntünün aşırı kırpılması durumunda filigran sinyalinin kaybolabileceğini kabul etti.
Bu bulgu, yaygın değişikliklerden sonra yapay zeka tarafından oluşturulan içeriği doğrulamanın zorluklarını vurguluyor — ABD ara seçimlerini de içeren yoğun bir seçim yılında deepfake'leri çevrimiçi olarak tanımlamayı zorlaştırabilecek bir sınırlama. Rakipler Google ve OpenAI de kendi tespit araçlarının görüntü değiştirme tekniklerine karşı kusursuz olmadığı konusunda uyarılarda bulundu.
