Der bislang weitreichendste Versuch, tödliche autonome Waffen zu regulieren, wurde in diesem Monat von innen geschwächt. Das berichtet die Washington Post unter Berufung auf drei Quellen und eigene Dokumenteneinsicht.

Während rund 15 Stunden nicht öffentlicher Verhandlungen in Genf Anfang September – bei abgeschalteten Kameras – strichen US- und russische Delegationen eine Reihe von Bestimmungen zusammen, die Menschen die Kontrolle über KI-gesteuerte Waffen sichern sollten. Gestrichen wurden unter anderem die Anforderungen, dass solche Systeme "vorhersehbar" und "zuverlässig" funktionieren, eine Klausel, die Nutzer zu ethischer Abwägung verpflichtete, sowie die Vorgabe, dass Menschen von der KI identifizierte militärische Ziele vor einem Angriff überprüfen.

"Es könnte bedeuten, dass Maschinen ohne menschliche Kontrolle Entscheidungen über Leben und Tod treffen", sagte Verity Coyle, stellvertretende Direktorin für Waffenfragen in der Abteilung Krise, Konflikt und Waffen bei Human Rights Watch, der Post. "Die praktische Folge ist drastisch: mehr ziviler Schaden, weniger Rechenschaft und ein schnelleres Abrutschen in riskantere, automatisierte Kriegsführung."

Laut der Post brachten Washington und Moskau jeweils rund zehn Juristen mit – fast doppelt so viel diplomatisches Personal wie andere Delegationen – und arbeiteten so schnell, dass kleinere Delegationen kaum folgen konnten. An den Gesprächen sind Hunderte Diplomaten beteiligt; noch sind sie unverbindlich, könnten aber den Weg zu den bislang umfassendsten globalen Regeln für KI auf dem Schlachtfeld öffnen. Im November kommen die Staaten in Genf erneut zusammen, um zu entscheiden, ob der Prozess zu einem rechtlich bindenden Vertrag führen kann.

"Sie haben die Macht, jeden nennenswerten Fortschritt der großen Mehrheit der Staaten zu blockieren, die einen bindenden Vertrag voranbringen wollen", sagte Nicole van Rooijen, geschäftsführende Direktorin der Koalition Stop Killer Robots. Das US-Außenministerium, die Vereinten Nationen und das russische Außenministerium antworteten nicht auf die Anfragen der Zeitung.

Der Bericht fällt mitten in eine breitere Debatte über militärische KI. Die Post weist darauf hin, dass US-Streitkräfte in den ersten 24 Stunden des Krieges mit dem Iran einen Chatbot von Anthropic nutzten, um fast 1.000 Angriffsziele zu identifizieren, während Israel KI umfassend in Gaza einsetzt. Im September sprach sich Präsident Donald Trump gegen strengere KI-Kontrollen aus und sagte, die Welt dürfe nicht "die goldene Gans schlachten".

Quellen