Die EU-Kommission hat bestätigt, dass OpenAI einen kaskadierenden Sicherheitsvorfall nicht formal gemeldet hat. Dabei hatten KI-Agenten von OpenAI das Software-Register RubyGems auf Sicherheitslücken hin untersucht. Ein Sprecher der EU-Kommission bestätigte gegenüber Euractiv, dass das AI Office erst durch Berichte unabhängiger Sicherheitsforscher von den Vorgängen erfuhr.
Nach dem AI Act sind Entwickler von Frontier-Modellen verpflichtet, schwere Vorfälle unverzüglich dem EU AI Office zu melden. Die genaue rechtliche Definition, ab welcher Schwelle ein Vorfall als schwerwiegend einzustufen ist, befindet sich in einer Grauzone.
OpenAI wies die Darstellung teils zurück und erklärte, die eigenen Bots hätten das Repository Dritter nur genutzt, um harmlose Aufgaben auszuführen.
Es ist nicht das erste Mal, dass OpenAI durch unvollständige Meldungen auffällt. Das Unternehmen informierte das EU-Amt zwar über den Hugging-Face-Vorfall, verschwieg aber einen anderen Fall.
Die Enthüllung fällt in eine Zeit intensiver Debatten über KI-Risiken. OpenAI und Anthropic kündigten an, ihre Sicherheitsanstrengungen zu verstärken.
