Papa XIV. Leo, devletlere yapay zekâyı 'silahsızlandırma' çağrısı yaptı ve bunu, tartışmanın gerçekten yapıldığı salon açılmadan iki hafta önce söyledi: Birleşmiş Milletler'in otonom silahları on yıldır tartışan sözleşmesinin gözden geçirme konferansı Kasım'da Cenevre'de toplanıyor.
Papa, 30 Ekim Cuma günü Papalık Yaşam Akademisi ile Future of Life Institute'ün ortaklaşa düzenlediği ve 'Yapay zekânın geleceği: Vatikan ile bilim dünyası arasında bir diyalog' başlıklı toplantının katılımcılarına hitap etti. Konuşmasında beş değerlendirme sıraladı. İkincisi en keskin olanıydı: 'Makineler araçtır, kişi değildir.' Bu sistemlere hak, hatta tüzel kişilik tanınması yönündeki önerilerin 'insan sorumluluğunu gölgeleyerek zarar görenleri yüzsüz bir muhatap ile baş başa bırakma' riski taşıdığını söyledi.
Üçüncü değerlendirme veri işlemeyi şiddetle ilişkilendirdi: 'Bir kişi hedef listesine konduğunda ya da bir sınır kontrolü veri tabanına kaydedildiğinde, onun yalnızca bir veri noktasına indirgenme tehlikesi vardır.' İnsan hayatını, özgürlüğünü ve güç kullanımını etkileyen kararların her zaman etkili, bilgilendirilmiş ve sorumlu insan gözetiminde kalması gerektiğini belirtti. 'Bu nedenle yapay zekâ silahsızlandırılmalıdır ve Kasım'da Cenevre'de toplanacak devletleri, ölümcül otonom silahların yasaklanması yolunda somut adımlar atmaya teşvik ediyorum.'
Argümanını, Haziran 2024'te G7 liderlerine hiçbir makinenin bir insan hayatını alma kararıyla asla görevlendirilmemesi gerektiğini söyleyen Papa Francis'e dayandırdı. Diğer maddeler öznellik ('yapay zekânın geleceği önceden belirlenmiş değildir'; insanlar uygulamaları 'yönlendirebilir, değiştirebilir ve gerektiğinde reddedebilir'), ortak iyilik ve en acil sorun olarak tanımladığı kurumlardı: etkili uluslararası kuruluşlar, ortak standartlar, bağımsız gözetim ve açık hesap verebilirlik mekanizmaları.
Vatikan metni Cenevre'deki toplantının adını vermiyor. En olası adres, 16-20 Kasım'da Palais des Nations'ta yapılacak Belirli Konvansiyonel Silahlar Sözleşmesi'nin Yedinci Gözden Geçirme Konferansı; belgeleri arasında ölümcül otonom silah sistemleri uzman grubunun görev tanımına ilişkin bir öneri de var. Konferans, kampanyacıların son saatlerde sulandırıldığını söylediği Eylül'deki bağlayıcı olmayan metnin ve BM Genel Sekreteri ile Kızılhaç'ın Ağustos çağrısının ardından geliyor.
Neden önemli: Papa'nın Cenevre'nin prosedür kurallarında oyu yok. Sağladığı şey dil: yasak eğilimindeki devletlere ahlaki bir çerçeve, 'kullanım normları' ve olumlu yükümlülükleri tercih edenlere ise rahatsız edici bir soru — kimse karar vermediğinde hesap kim verir?
