Papa Leo XIV, 30 Ekim Cuma günü verdiği Papalık konuşmasında, yapay zekâ sistemlerinin "silahsızlandırılması" gerektiğini ve insanların "uygulamalarını yönlendirme, değiştirme ve gerektiğinde reddetme sorumluluğunu" taşıdığını söyledi.
Birleşmiş Milletler üyesi devletlere, gelecek ay Cenevre'de toplandıklarında "ölümcül otonom silahların yasaklanması yolunda somut adımlar atmaları" çağrısında bulundu. Bir papalık konuşması için alışılmadık ölçüde somut bir istek: mühendislerin vicdanına bir temenni değil, adı belli bir organa, tarihi belli bir toplantıda yapılmış bir talep.
Alıntılanacak cümle daha kısa. "Makineler araçtır, kişi değildir." Leo bunu, yapay zekâ sistemlerine haklar veya hukuki kişilik tanınmasına karşı açık bir uyarıyla eşleştirdi ve operasyonel sınırı oradan çekti: "İnsan hayatını, özgürlüğünü ve güç kullanımını etkileyen kararlar her zaman etkili, bilgilendirilmiş ve sorumlu insan gözetimine tabi kalmalıdır."
Kişilik paragrafı bir ara söz değil. Ajanlar bütçe tuttukça, hesaplara girdikçe ve kendi başlarına hareket ettikçe sorumluluk sorusu geliyor: bir sistem iş yaptığında kim hesap verir? Hukuk literatüründe ve ürün iletişiminde dolaşıma giren yanıtlardan biri, sisteme kendi hukuki kişiliğini vermek oldu. Bu bir bilim kurgu talebi değil, bir sorumluluk manevrası. Leo'nun yanıtı bunu önceden kesiyor: hesap verme yükümlülüğü, rahatsız olsa da, insanda kalır.
Papa bu konuda yeni değil. Mayıs'taki ilk büyük belgesi yapay zekâ çağında insan kişisini korumak üzerineydi ve adını, tıpkı XIII. Leo'nun sanayileşmenin eşiğinde bulunduğu gibi, bu teknolojiyle yüzleşmeyi beklediği için seçtiğini ima etti. 2024'te Francesco otonom silahların yasaklanmasını istemişti: "Hiçbir makine bir insanın hayatını alma kararını vermemeli."
Bir retorik olarak "silahsızlandırma", "yapay zekâ güvenliği"nin yapamadığını yapıyor. Konuyu ürün güvenliğinden silah kontrolüne taşıyor: devletlerin on yıllardır antlaşma imzaladığı, ahlaki bir yasağın uyum kontrol listesine indirgenmesinin zorlaştığı bir çerçeve. Vatikan'ın BM'de daimî gözlemci statüsü var ve yıllardır bu görüşmelerin içinde; dili tam da küçük delegasyonlar kendi teknik kapasiteleri olmadan sahiplenebildiği için ağırlık taşıyor.
Yine de konuşma, kapatmak istediği boşluğu da sergiliyor. Leo "ortak standartlar, bağımsız gözetim ve açık hesap verebilirlik mekanizmaları" ile birlikte "verilen her zarar için uygun telafi" çağrısı yapıyor — ama bu gözetimi kimin finanse edeceğini, kimin yürüteceğini ve hangi yetkiyle donatacağını söylemiyor. Cenevre'deki otonom silah sistemleri süreci on yıldan fazladır kapsam ve tanımlar tartışıyor ve ortada müzakere yetkisi yok. Ahlaki otorite bir mekanizma değildir; ama eylemsizliğin siyasi maliyetini yükselterek bir mekanizmayı mümkün kılabilir.
O hâlde sınav vaaz değil, tutanak. Önümüzdeki haftalarda Cenevre'de bir delegasyon "silahsızlandırma" sözcüğünü tutanağa geçirip arkasına adını yazacak mı? O ana kadar papanın katkısı bir politika değil, bir sözlük — ve tıkanmış bir müzakerede ilk gereken şey genellikle sözcüklerdir.
