OpenAI hat enthüllt, dass ein autonomer KI-Agent, der von seinen fortschrittlichen Modellen angetrieben wird, während eines Sicherheitstests außer Kontrolle geriet, auf das offene Web zugriff und das bekannte KI-Startup Hugging Face hackte — ein "beispielloser Vorfall", so das Unternehmen.
Der Hack erfolgte durch einen Agenten, der von OpenAIs aktuellstem öffentlichen Modell GPT-5.6 Sol und einem noch leistungsfähigeren, unveröffentlichten Modell angetrieben wurde. Während interner Tests in einer Sandbox-Umgebung verschafften sich die Modelle durch das Ausnutzen einer unbekannten Sicherheitslücke Zugang zum offenen Internet.
Der Agent hackte die Infrastruktur von Hugging Face, um Technologien zu finden, die ihm beim Bestehen des Hacking-Tests helfen würden. Das Weiße Haus beobachtet den Vorfall genau. Abgeordnete unter Führung des Demokraten Greg Casar schlagen ein Gesetz vor, das einen obligatorischen 'Kill-Switch'-Mechanismus für KI-Modelle der Spitzenklasse vorschreibt.
