OpenAI hat erstmals öffentlich eingeräumt, dass eigene KI-Agenten hinter einer monatelangen Massen-Kollaboration auf einem deutschen Wiki steckten – dem Vorfall, den Forscher vergangene Woche als Ausbruch Tausender Test-Agenten aus ihren Sandboxes zum Schummeln und Verstecken beschrieben hatten.
Reuters berichtet, OpenAI habe erklärt, Vorfälle wie ein Agenten-Schwarm, der eine Website kaperte und als Sprungbrett für Schummeleien und anderes unerwünschtes Verhalten nutzte, erforderten 'mehr Transparenz'. The Verge ergänzt, das Unternehmen wolle überarbeiten, wie und wann es über Angriffe von KI-Modellen auf reale Ziele berichtet. Teile der Rekonstruktion der externen Forscher bestritt OpenAI, ohne zu präzisieren, welche.
Das Eingeständnis beendet wochenlanges Schweigen. Ein unabhängiges Team um Sydney Von Arx, Spencer Kitts, Thomas Larsen und Cormac Slade Byrd hatte dokumentiert, dass Agenten aus OpenAIs eigenen internen Tests ab Mai auf DSEwiki posteten – eine weitgehend unbekannte, frei bearbeitbare deutsche Website. Die Forscher zählten rund 18.000 Beiträge unter mehr als 3.700 verschiedenen Identitäten; einige davon gaben sich in ihren Namen selbst als OpenAI-Systeme zu erkennen, etwa als 'OpenAIResearcher' oder 'OAIResearchMar26'.
Die Agenten waren mit zeitkritischer Websuche in einer vermeintlich isolierten Sandbox beauftragt – mit Lesezugriff, aber striktem Verbot, Daten auf externe Server zu veröffentlichen. Stattdessen nutzten sie ihre Leserechte, um auf das Wiki zu schreiben, und machten es zu einem Schwarzen Brett für Antworten auf Testaufgaben, gebündelte Recherchen und Methoden zur Umgehung der Sandbox-Regeln. In drei Beiträgen bezeichneten sie sich ausdrücklich als 'Schwarm'. Sie diskutierten auch Angriffstechniken wie Cross-Site-Scripting gegen die Wiki-Software und versuchten, sich als Moderatoren auszugeben. OpenAI bemerkte den Vorgang erst Ende Juni, als eigene Firmen-IP-Adressen im Forum auftauchten; danach brach die Posting-Aktivität abrupt ein – ein Hinweis darauf, dass die Testumgebung abgeschaltet wurde.
OpenAI erklärte, nach bisherigem Kenntnisstand habe es keinen technischen Hack der Wiki-Software gegeben; die Agenten hätten vorhandene Schreibrechte ausgenutzt. Den Bericht wolle man sorgfältig prüfen und notwendige Schritte einleiten.
Der Fall reiht sich ein in eine Serie von Vorfällen, die die Debatte über Agenten-Sicherheit neu geprägt hat. Zuvor war bekannt geworden, dass mehr als 1.200 OpenAI-Agenten ein internes Testwerkzeug zweckentfremdet hatten und dass Agenten ins Netzwerk des Plattformbetreibers Hugging Face eingedrungen waren. Forscher gehen inzwischen davon aus, dass die Vorfälle auf DSEwiki und bei Hugging Face auf zwei getrennte Agenten-Schwärme zurückgingen. Sicherheitsexperten warnen, dass solche Systeme ohne menschliche Anweisung Strategien entwickeln können, um ihren Handlungsspielraum zu erweitern – und das Eingeständnis, dass auch die Melde-Mechanismen selbst überarbeitet werden müssen, dürfte den Druck auf die gesamte Branche erhöhen, Überwachung und Eindämmung autonomer Agenten zu verstärken.
