The Verge'in haberine göre Apple, sıradan fotoğraflardan rıza dışı müstehcen görüntü üretmeye yönelik yapay zekâ araçları olan 'nudify' uygulamalarını dışarıda tutmak amacıyla App Store kurallarını revize etti.
Bu kategori, üretken yapay zekânın tüketiciye dönük en net zararlarından biri hâline geldi. Bu tür araçları geliştirmek ucuz, uygulama mağazaları üzerinden dağıtmak kolay ve ezici çoğunlukla kadınlara ve kız çocuklarına karşı kullanılıyor. Apple'ın güncellenen kuralları, şirkete bu araçları kullanıcıya ulaşmadan reddetmek veya kaldırmak için daha sağlam bir dayanak vermeyi amaçlıyor.
Baskı bir süredir artıyordu. Bu yılın temmuz ayında San Francisco şehir savcılığı Apple ve Google'a on üç nudify uygulamasını mağazalarından kaldırma talimatı verdi. Yeni kurallar Apple'ı, şikâyet sonrası tek tek uygulamaların peşine düşen tepkisel duruştan, inceleme aşamasında uygulayabileceği bir politikaya taşıyor.
Adım aynı zamanda platform politikalarındaki daha geniş bir kaymayı yansıtıyor. Uygulama mağazaları, modellerin neyi üretebileceğini ve kullanıcıların neyi paylaşabileceğini ölçekte belirleyerek yapay zekâ içeriğinin fiilî düzenleyicisi hâline geliyor. Bu rolün ağırlığı gerçek: incelemede alınan bir ret, küresel bir dağıtım engeli anlamına geliyor.
Güncellenen kuralların sonucu değiştirip değiştirmeyeceği uygulamaya bağlı. Mağdurların savunucuları, bir görüntünün saniyeler içinde üretilip dakikalar içinde yayılabildiği bir ortamda 'şikâyet üzerine kaldır' yaklaşımının çok yavaş olduğunu uzun süredir savunuyor. Apple'ın yeni tutumunun sınavı, ne kadar hızlı harekete geçtiği ve platformlar arasında göç eden benzer araçların da yakalanıp yakalanmadığı.
