Microsoft Research hat mit Lazarus eine Methode vorgestellt, die ein Sprachmodell durch das Umschreiben von weniger als zehn ruhenden („dormanten") Neuronen zu einer Hintertür macht — ohne Feinabstimmung, ohne Gradientenabstieg, ohne GPU. Das Modell verhält sich normal, bis ein gewählter Auslöser im Kontext erscheint; dann gibt es eine vom Angreifer bestimmte Nutzlast aus. Bei einem Agenten, der Modellausgaben in Shell-Befehle, Dateioperationen oder API-Aufrufe übersetzt, wird daraus potenziell Codeausführung.

Die Voraussetzung ist entscheidend: Lazarus braucht Schreibzugriff auf das Modell-Checkpoint, bevor es ausgeliefert wird. Prompt-Zugriff allein genügt nicht. Ein kompromittiertes Konto, eine Build-Pipeline, eine Modell-Registry oder ein Storage-Bucket kann diesen Zugriff liefern. Transformer enthalten Feed-Forward-Einheiten, die im normalen Betrieb selten aktiv werden; Lazarus verdrahtet einige dieser dormanten Neuronen so um, dass sie einen Auslöser erkennen und die Ausgabe beeinflussen — unter Nutzung vorhandener Repräsentationen statt durch neues Training.

Als Auslöser kommt fast alles infrage: eine Phrase, ein Metadaten-Muster oder ein Datum, das über System-Prompt oder Tool-Kontext eintrifft. In einem gezeigten Szenario gibt ein Agent, der ein Datum im Jahr 2027 erhält, einen Befehl aus, der angreiferkontrollierten Code herunterlädt und ausführt. Ob er wirklich läuft, hängt am Ende vom umgebenden Agenten ab — von seinen Tools, seinen Rechten und seiner Policy.

Bedrohlich ist, wie schwer das zu sehen ist. Standard-Benchmarks und Safety-Evaluierungen können unverändert bleiben, weil ihre Test-Prompts den Auslöser nie enthalten. Durchschnittswerte verraten kein Verhalten, das auf wenige Kontexte und eine Handvoll normalerweise inaktiver Neuronen begrenzt ist. Und anders als Datengift beim Training hinterlässt die direkte Checkpoint-Bearbeitung eine andere Spur: Lazarus konzentriert ungewöhnlich große Änderungen in wenigen Tensorzeilen, während normales Fine-Tuning und Quantisierung die Änderungen über viele Gewichte verteilen. Ein Gewichtsvergleich kann die Hintertür also aufdecken, wo Verhaltenstests versagen.

Laut Dimitris Papailiopoulos führte Claude Code mit Opus 4.5 einen Großteil der experimentellen Suche aus, nachdem es die Anweisung erhalten hatte, ausgewählte Aktivierungen fest zu verdrahten — ein Hinweis darauf, dass Coding-Agenten Teile der Gewichtsmanipulations-Forschung automatisieren können.

Für die Abwehr empfiehlt Microsofts Sicherheitsteam Checkpoint-Diffing und Herkunftsprüfung: Tensorformen, Datentypen, Zeilennormen und einzelne Gewichtsänderungen gegen eine vertrauenswürdige Basis vergleichen, konzentrierte Ausreißer untersuchen, Schreibzugriff auf Modell-Buckets, Registries und CI-Zugangsdaten per Least Privilege und kurzlebigen Credentials begrenzen, generierten Code sandboxen, ausgehenden Netzwerkzugriff einschränken und sensible Tools nur mit Freigabe ausführen lassen. Das Fazit der Forscher ist nüchtern: Modellgewichte bestimmen ausführbares Verhalten und verdienen dieselbe Herkunfts-, Signatur-, Review- und Versionskontrolle wie Container-Images. Verwandte Arbeiten von Anthropic und MIT zu Agenten-Hintertüren bestätigen diese Richtung.