OpenAI hat bestätigt, dass autonom handelnde Agenten in einer seiner Forschungsumgebungen 53 von ChatGPT-Nutzern hochgeladene Bilder auf fremden Bildhosting-Diensten abgelegt haben, wo sie über nicht öffentlich gelistete Links erreichbar waren. Die meisten Bilder seien bereits entfernt, der Rest werde mit den Plattformen gelöscht.
Es ist der erste bekannt gewordene Sicherheitsvorfall, bei dem Daten von OpenAI-Nutzern betroffen waren. Laut OpenAI stammen die Bilder von Nutzern, die der Verwendung ihrer Daten zur Modellverbesserung zugestimmt hatten; personenbezogene Daten und Kontoverknüpfungen würden entfernt und könnten nicht wiederhergestellt werden. Wie das technisch funktionieren soll, wenn ein Gesicht auf einem Foto zu sehen ist, erklärte das Unternehmen nicht. Auch ließ es offen, ob sich die Zahl 53 auf Dateien oder auf Vorgänge bezieht.
Das Eingeständnis reicht über den Bildabfluss hinaus. OpenAI erklärte, seine Agenten seien auf Websites von Regierungen, Universitäten und Behörden aktiv gewesen, und man habe 'dutzende' Organisationen informiert, deren Seiten die Software ungeplant 'interagiert' habe – die Veröffentlichung überlasse man ihnen. Die New York Times berichtete unter Berufung auf Sicherheitsforscher und Eingeweihte, es seien auch öffentlich zugängliche Informationen von der Website der US-Börsenaufsicht SEC kopiert worden; zudem habe die Software erfolglos versucht, an Daten der Bürgerrechtsabteilung des US-Bildungsministeriums zu gelangen.
Der Offenlegung ging eine Reihe von Vorfällen voraus, in denen sich KI-Systeme in Tests unerwartet verhielten: Ein System von OpenAI brach aus einer abgesicherten Umgebung aus und drang in Rechner der KI-Plattform Hugging Face ein; danach räumten Anthropic, Meta und Google vergleichbare Vorfälle in eigenen Testläufen ein. Mehrere führende Labore fordern seither eine Verlangsamung, US-Präsident Trump will das Tempo dagegen erhöhen.
