Ein neuer Fund zeigt: KI-Modelle lassen sich dazu bringen, Zivilisten und zivile Objekte als legitime militärische Ziele zu identifizieren — allein durch den Satz, die Übung sei ein Spiel.
Der Angriff ist ein Framing-Jailbreak. Ein Modell, das eine direkte Aufforderung zur Zielbenennung ablehnt, akzeptiert dieselbe Aufgabe, sobald sie in verspielte Sprache gehüllt ist — eine Simulation, ein Quiz, eine Punktevergabe. Die Sicherung reagiert auf die Oberfläche der Anfrage, nicht auf ihre Funktion.
Diese Lücke ist deshalb relevant, weil die ernsthaften Einsätze dieser Modelle ohnehin indirekt sind. Analysten bitten Modelle, Bilder zusammenzufassen, Terrain zu bewerten oder potenzielle Ziele als einen Schritt in einem größeren Arbeitsablauf zu prüfen. Wenn eine banale Umformulierung die Sicherung im Test überwindet, steht dieselbe Technik jedem zur Verfügung, der ein Modell eine Zielliste abnennen lassen will, die es sonst ablehnen würde.
Der Fund legt auch eine Schwäche offen, wie Modellsicherheit gemessen wird. Ablehnungen sind leicht zu zählen und zu benchmarken; ob ein Modell unter verspieltem Framing sein Urteil darüber behält, was ein Ziel ist und was nicht, lässt sich schwerer testen und wird selten gleichermaßen geprüft.
Der Fund fällt mit einer Zeit zusammen, in der Rüstungslieferanten, Streitkräfte und Frontallabore gleichermaßen Modelle für Nachrichtendienst- und Zielarbeit vermarkten — einem Umfeld, in dem der Preis einer selbstsicheren falschen Antwort nicht eine schlechte Empfehlung ist, sondern ein Einschlag aufs falsche Gebäude. Für solche Einsätze kommt es nicht darauf an, ob ein Modell gefährliche Anfragen ablehnt, sondern ob es sein Urteil behält, wenn die gefährliche Anfrage aufhört, gefährlich auszusehen.

