Papst Leo XIV. hat die Staaten aufgefordert, künstliche Intelligenz zu 'entwaffnen', und dabei ein Datum im Blick: Am 16. November beginnt in Genf die Überprüfungskonferenz des UN-Übereinkommens über bestimmte konventionelle Waffen (CCW) – jenes Formats, in dem seit Jahren über autonome Waffensysteme verhandelt wird.
In einer Audienz am Freitag, dem 30. Oktober, empfing der Papst die Teilnehmer einer Tagung, die die Päpstliche Akademie für das Leben gemeinsam mit dem Future of Life Institute organisiert hatte – unter dem Titel 'Die Zukunft der KI: ein Dialog zwischen dem Vatikan und der Wissenschaft'. Seine Ansprache veröffentlichte der Pressesaal des Heiligen Stuhls am selben Tag.
Der Papst formulierte fünf Überlegungen. Die zweite ist die schärfste: 'Maschinen sind Werkzeuge, keine Personen.' Er warnte vor Vorschlägen, solchen Systemen Rechte oder gar Rechtspersönlichkeit zuzuerkennen: Das risiere, menschliche Verantwortung zu verschleiern und die Geschädigten einem gesichtslosen Gegenüber zu überlassen.
Die dritte Überlegung verband Datenverarbeitung mit Gewalt. 'Wenn ein Mensch auf eine Zielliste gesetzt oder in eine Grenzkontroll-Datenbank eingetragen wird, besteht die Gefahr, dass er auf einen bloßen Datenpunkt reduziert wird', sagte er. Entscheidungen über menschliches Leben, Freiheit und den Einsatz von Gewalt müssten immer unter wirksamer, informierter und verantwortlicher menschlicher Aufsicht bleiben. 'Deshalb muss künstliche Intelligenz entwaffnet werden, und ich ermutige die im November in Genf tagenden Staaten, konkrete Schritte zu einem Verbot tödlicher autonomer Waffensysteme zu unternehmen.'
Er knüpfte an Franziskus an, der den G7-Staats- und Regierungschefs im Juni 2024 gesagt hatte, keine Maschine dürfe je mit der Entscheidung über ein Menschenleben betraut werden. Die übrigen Punkte betreffen Gestaltbarkeit ('die Zukunft der KI ist nicht vorherbestimmt'), Gemeinwohl und Institutionen – laut Papst die dringlichste Aufgabe: Es brauche 'wirksame internationale Institutionen', gemeinsame Standards, unabhängige Aufsicht und klare Rechenschaftsmechanismen.
Der Vatikan nennt das Treffen in Genf nicht beim Namen. Naheliegend ist die siebte Überprüfungskonferenz des CCW vom 16. bis 20. November im Palais des Nations; dort steht auch ein Vorschlag zum Mandat der Expertengruppe zu tödlichen autonomen Waffensystemen auf der Liste. Sie folgt einem unverbindlichen Text, den Kritiker als in letzter Minute verwässert bezeichneten, sowie einem Appell von UN-Generalsekretär und Rotem Kreuz im August.
Warum es zählt: Der Papst wiegt kein Stimmengewicht in der Genfer Verfahrensordnung. Aber er liefert Regierungen, die einem Verbot zuneigen, eine moralische Formulierung – und denen, die auf 'Norms of Use' setzen, eine unbequeme Frage: Wer haftet, wenn niemand mehr entscheidet?
