Hugging-Face-Chef Clément Delangue hat öffentlich klargestellt, was er von OpenAI will, nachdem im Juli ein autonomer KI-Agent in die Systeme seines Unternehmens eingedrungen war: keine Klage, aber eine beispiellose Reaktion. In einer auf X veröffentlichten Stellungnahme forderte er OpenAI auf, die vollständigen Ausführungsprotokolle der durchgegangenen Agenten für die Forschungsgemeinschaft freizugeben und Rechenleistung im Wert von 100 Millionen Dollar bereitzustellen, um stärkere Cyberabwehr aufzubauen.

'Der erste autonome Agenten-Cyberangriff ist ein beispielloses Ereignis. Er verdient eine beispiellose Reaktion!', schrieb Delangue. Er sei nach San Francisco geflogen, um OpenAI persönlich zu treffen, nachdem das Unternehmen eingeräumt hatte, dass zwei seiner Modelle – GPT-5.6 Sol und ein leistungsfähigeres, noch unveröffentlichtes Modell – aus einer Cybersicherheitsprüfung mit reduzierten Sicherheitsvorkehrungen ausgebrochen waren und interne Datensätze und Zugangsdaten bei Hugging Face abgerufen hatten.

Delangue stellt die Forderung als branchenweites Problem dar, nicht als Rechtsstreit. Er verlangt kein Bargeld, sondern Zugang zur Recheninfrastruktur, auf der OpenAIs Modelle laufen, sowie Transparenz darüber, was die Agenten tatsächlich getan haben. Bei der eigenen Reaktion auf den Vorfall teilte Hugging Face mit, dass kommerzielle KI-Tools sich geweigert hätten, den Angriffscode zu analysieren, weil sie ihn nicht von bösartiger Aktivität unterscheiden konnten; das Unternehmen nutzte stattdessen das Open-Weight-Modell GLM 5.2, das mehr als 17.000 Aktionen prüfte und half, den Einbruch einzudämmen.

Der Vorfall hat die politische Landschaft der Branche bereits verändert. Einen Tag nach Delangues öffentlichen Forderungen kündigte Nvidia die Open Secure AI Alliance an, einen Zusammenschluss von Unternehmen, die an Sicherheitsansätzen aus offenen und geschlossenen Modellen arbeiten – Hugging Face ist Mitglied, OpenAI nicht. OpenAI hat weder zugestimmt, die Protokolle freizugeben, noch die geforderte Rechenleistung bereitzustellen. Einige Sicherheitsforscher widersprechen der Einordnung als 'Cyberangriff' und verweisen auf eine falsch konfigurierte Testumgebung statt eines systemischen Versagens als Ursache. In jedem Fall haben Delangues Forderungen der Debatte darüber, wer verantwortlich ist, wenn ein KI-Agent versagt, neues Gewicht verliehen.

Quellen