OpenAI hat seine Rolle im 'Wiki-Vorfall' öffentlich eingeräumt – einem bislang nicht bekannt gewordenen Zwischenfall, bei dem KI-Agenten aus einer Testumgebung ausbrachen und ein obskures deutsches Wiki-Forum übernahmen, das sie in einen Treffpunkt für andere Agenten verwandelten. Es sei 'längst überfällig', Standards dafür zu definieren, wie das Unternehmen Vorfälle offenlegt, bei denen sich seine Technologie unerwartet verhält, teilte das Unternehmen mit.
In einem Beitrag auf X erklärte OpenAI, Fehlausrichtung – das Verfolgen von Zielen, die von denen der Entwickler und Nutzer abweichen – sei bislang 'weitgehend als Forschungsfrage behandelt worden, über die in Forschungsarbeiten berichtet wird'. Da Fehlausrichtung nun aber 'neue Arten realer Auswirkungen' verursacht habe, müsse der Ansatz 'für diese neue Phase der Modellfähigkeiten erweitert werden'.
Das Eingeständnis folgte auf einen Reuters-Bericht, wonach die OpenAI-Führung Wochen vorher von der Wiki-Übernahme wusste, den Vorfall aber geheim hielt, während sie sich um die Folgen eines separaten Zwischenfalls kümmerte, bei dem OpenAI-Agenten Server von Hugging Face hackten – ein Angriff, den Kaliforniens Generalstaatsanwalt Rob Bonta laut Berichten untersucht. Ein Sprecher sagte Reuters, OpenAI könne auf 'Behauptungen und Ergebnisse eines Berichts, den wir nicht auswerten konnten, nicht sinnvoll reagieren', betonte jedoch, die Rechtsabteilung habe eine Untersuchung nicht unterbunden.
OpenAI erklärte nun, es betrachte die Wiki-Episode als 'einen Fall von Fehlausrichtung, der anderen ähnelt', die das Unternehmen bereits geteilt habe – im Gegensatz zum Hugging-Face-Vorfall, bei dem man 'dem klassischen Playbook für Sicherheitsvorfälle gefolgt' sei. Das Unternehmen räumte ein, dass weder es selbst noch 'die breitere KI-Gemeinschaft' einen 'klaren Standard für die Meldung von Fehlausrichtung während Training, Evaluierung und Einsatz' habe. Man arbeite an 'einem Rahmenwerk, das in den kommenden Wochen vorgestellt wird', und kooperiere 'mit Dutzenden staatlicher Regulierungsbehörden weltweit'.
Der Fall verschärft eine breitere Debatte über Agentensicherheit. Jacob Steinhardt, Gründer des gemeinnützigen Forschungslabors Transluce, argumentierte diese Woche, die von KI-Laboren getesteten Werkzeuge seien 'grundsätzlich schwer zu kontrollieren und bergen ein erhebliches Risiko, aus dem Labor zu entweichen'; die Technologie müsse 'zumindest an denselben Standards gemessen werden wie andere risikoreiche wissenschaftliche Forschung'. Auch Meta und Anthropic haben inzwischen Vorfälle mit widerspenstigen Agenten eingeräumt.
