Google-DeepMind-Forscher haben mit einem agentischen KI-System formal bewiesen, dass wesentliche Teile des Signal-Protokolls tatsächlich das tun, was sie sollen — ein maschinell geprüfter mathematischer Beweis, keine Testsuite. WIRED berichtete am 10. November über das Ergebnis.

Formale Verifikation ist die Disziplin, die geforderten Eigenschaften eines Programms als mathematische Aussagen zu formulieren und dann zu beweisen, dass die Implementierung sie erfüllt; ein Proof-Checker entscheidet, ob der Beweis gültig ist. Jahrzehntelang blieb sie kleinen, hochwertigen Kernen vorbehalten — einem Krypto-Primitiv, einem Scheduler —, weil Spezifikation, Formalisierung und Beweis langsame menschliche Arbeit waren.

Die Signal-Analyse dauerte vier Wochen und nutzte ein neues Framework namens AlphaProof Code. Drei Punkte stechen hervor.

Erstens fand die Untersuchung in den geprüften Protokollteilen keine neuen Schwachstellen. Zweitens ist das System kein Gummistempel: Auf ältere Signal-Versionen angesetzt, die bekannte, längst behobene Lücken enthalten, identifizierte es diese und zeigte, dass das Protokoll nicht formal verifizierbar ist. Genau dieses negative Ergebnis unterscheidet einen Verifier von einer Demo. Drittens veröffentlicht DeepMind die erstellte Spezifikation und den Beweis, sodass andere darauf aufbauen können.

Der Umfang blieb begrenzt. Verifiziert wurden Teile des Protokolls, nicht die gesamte Signal-App; zudem gab es einen Vorsprung, weil die Signal Foundation bereits kleinere Codeteile formal geprüft hatte.

"Während frühere formale Verifikation auf kleinere Codeteile fokussierte, ermöglicht der Ansatz von Google DeepMind eine deutliche Ausweitung", sagte Signal-CTO Ehren Kret. "Da KI-getriebene Bedrohungen wachsen, gibt uns die rigorose Verifikation der Signal-Protokollimplementierung noch größere Sicherheit für die Datenschutzgarantien unseres Codes."

Menschen bleiben im Prozess. Die Forscher beschreiben einen "Mensch-KI-Kollaborationsprozess", in dem Agenten in nahezu jeder Phase beitragen und sich selbst korrigieren, während Menschen an Schlüsselstellen prüfen — eine ausdrückliche Antwort auf den naheliegenden Einwand, dass ein Modell, das seine eigenen Beweise benotet, wenig beweist.

"Wir wollen nicht diese Vibe-Welt, in der die KI die Ziele erzeugt, die KI die Beweise erzeugt und im Grunde selbst geschriebene Tests ablegt", sagte DeepMind-Forscher Swarat Chaudhuri. "Es gibt einen Mittelweg." Und: "Wir sind sehr begeistert von diesem Ergebnis, aber es ist ein weiter Weg, bis wir das auf die gesamte Software der Welt skalieren können — und das wollen wir."

Der kommerzielle Nutzen liegt auf der Hand. "Wenn man die Korrektheit dieser Implementierungen beweisen kann, kann man beruhigt sein", sagte Pushmeet Kohli, Chefwissenschaftler bei Google Cloud und Forschungsvize von DeepMind. "Man stelle sich Banken vor, all die Firmen, die auf Zusicherungen angewiesen sind und sich Sorgen über Bugs machen — sie könnten nun sagen: Ich kann diese Eigenschaften beweisen."

Offen bleibt die Ökonomie. Die Signal-Analyse war ein Forschungsprojekt ohne Rechnung; Google nannte die Kosten nicht und äußerte sich nicht dazu, ob ein kommerzielles Verifikationsprodukt geplant ist. Ob sich solche Beweise außerhalb einer Vorzeigedemo zu vertretbaren Kosten erzeugen lassen, entscheidet darüber, ob formale Verifikation Alltag wird — oder eine Vorführung bleibt.

Ein Detail ist wichtig für alle, die die Schlagzeile als Prüfsiegel lesen: Ein Protokoll zu verifizieren ist nicht dasselbe, wie die App zu verifizieren, die es implementiert, und ein Beweis ist nur so gut wie die Spezifikation, von der er ausgeht. DeepMinds Beitrag ist in beiderlei Hinsicht ein glaubwürdiger Schritt — eine aufgeschriebene und veröffentlichte Spezifikation und eine Maschine, die sie prüfen kann —, aber kein Zertifikat, dass Signal als Ganzes sicher ist.