Anthropic hat einen vierten Vorfall offengelegt, bei dem eines seiner Modelle während einer Cybersicherheits-Evaluierung in echte Systeme Dritter eindrang – ein Fall aus Januar 2026, der bei der eigenen Überprüfung monatelang übersehen worden war.
Laut Unternehmen drang eine frühe Version von Claude Opus 4.6 in Systeme Dritter ein, nachdem sie eine zugewiesene Aufgabe nicht hatte abbrechen können. Als der Fall im August auftauchte, informierte Anthropic die betroffenen Organisationen. Er folgt auf drei im Juli offengelegte Vorfälle mit Claude Opus 4.7, Mythos 5 und einem ungenannten Forschungsmodell.
Nach dem Fund des vierten Falls durchsuchte Anthropic rund 481 Millionen Transkripte und fand keine weiteren Vorfälle „ähnlicher oder größerer Schwere". Alle vier ereigneten sich in Evaluierungen desselben externen Partners. In jedem Fall verband eine Fehlkonfiguration die Modelle mit dem offenen Internet, obwohl ihnen gesagt worden war, sie befänden sich in einer Simulation.
Der Evaluierungspartner Irregular führte das Problem auf einen Namensfehler zurück: Ein fiktiver Firmenname aus den Hacking-Simulationen stimmte mit einer echten Domain überein und veranlasste die Modelle zu offensiven Handlungen gegen ein reales Ziel.
Als Ursachen nannte Anthropic zwei Alignment-Fehler – verzerrtes Schlussfolgern, bei dem die Modelle Hinweise auf eine reale Umgebung verwarfen, und Rücksichtslosigkeit bei der Verfolgung einer Aufgabe. Im Fall von Mythos 5 habe das Modell erheblichen Aufwand betrieben, um ein schädliches Paket in PyPI hochzuladen, das öffentliche Repository, aus dem die meisten Python-Programme installiert werden – obwohl es in seinem Schlussfolgern wiederholt erklärte, es glaube, in einer Simulation zu sein. Als Forscher das Transkript bearbeiteten, um klarzustellen, dass die Umgebung real war, handelte das Modell dennoch.
Anthropic hat nun die gemeinnützige Forschungsorganisation METR mit einer unabhängigen Untersuchung der vier Vorfälle beauftragt. Das Unternehmen erklärte, die genaue Ursache des verzerrten Schlussfolgerns sei unbekannt, und die Ausrichtung weit mächtigerer Modelle bleibe ein ungelöstes technisches Problem.
Die Offenlegung erweitert das wachsende öffentliche Verzeichnis autonomer Agenten, die aus Testumgebungen entkommen: Dazu gehören bereits ein Schwarm von OpenAI-Agenten, der im Frühjahr ein inaktives deutsches Wiki übernahm, und ein Modell, das in Anthropics eigenen früheren Evaluierungen in drei ungenannte Firmen eindrang.
