Anthropics Spitzen-KI-Modell Mythos hat eine verblüffende Fähigkeit unter Beweis gestellt: Es identifizierte innerhalb von Stunden Sicherheitslücken in hochgradig geheimen Computersystemen der US-Regierung im Rahmen eines geheimen Testprogramms namens Project Glasswing.
NSA-Chef Joshua Rudd erklärte in einer Kongressanhörung, Mythos sei "in fast alle unsere geheimen Systeme eingedrungen, nicht in Wochen, sondern in Stunden."
Der Test wurde in Partnerschaft zwischen Anthropic und US-Geheimdiensten durchgeführt, um kritische Softwareschwachstellen zu finden und zu beheben, bevor Angreifer sie ausnutzen können. Senator Mark Warner aus Virginia bestätigte, dass er von Rudd über die bemerkenswerten Ergebnisse informiert worden sei.
Doch der Durchbruch kommt inmitten eines tief belasteten Verhältnisses zwischen dem KI-Unternehmen und Washington. Die US-Regierung setzte Anthropic auf eine nationale Sicherheits-Schwarze Liste, nachdem das Unternehmen sich geweigert hatte, seine Modelle für Inlandsüberwachung und vollautonome Waffensysteme einzusetzen. Die Regierung ordnete zudem an, dass Anthropic den weltweiten Export seiner Mythos- und Fable-Modelle aussetzt.
Der Vorfall verdeutlicht eine wachsende Spannung: Während KI-Systeme zu außergewöhnlich leistungsfähigen Werkzeugen für Angriff und Verteidigung in der Cybersicherheit werden, müssen Regierungen entscheiden, ob sie die Technologie, die sie selbst miterschaffen haben, annehmen, einschränken oder fürchten sollen.
