Floridas Generalstaatsanwalt bittet ein Gericht um etwas, das noch keine US-Regulierungsbehörde getan hat: OpenAI zu untersagen, neue KI-Modelle zu entwickeln, bis unabhängige Dritte deren Sicherheit absegnen.

Der Antrag kam am 28. September im Rahmen der im Juni eingereichten Klage des Bundesstaates, die OpenAI vorwirft, die Sicherheit von ChatGPT falsch dargestellt zu haben. Generalstaatsanwalt James Uthmeier will erreichen, dass dem Unternehmen die Entwicklung neuer KI-Modelle ohne von Dritten genehmigte Sicherheitsvorkehrungen untersagt wird, dass Minderjährige von ChatGPT ferngehalten werden und dass der Chatbot keine „menschlichen Eigenschaften" mehr erhält.

Laut einem Reuters-Bericht über die Eingabe stützt sich Florida auf die eigenen Worte des Unternehmens. Zitiert werden jüngste Äußerungen eines ehemaligen OpenAI-Mitarbeiters und eines amtierenden Vorstandsmitglieds, wonach fortgeschrittene KI die Menschheit vernichten könnte und gebremst werden müsse – eine Haltung, die der Bundesstaat als Eingeständnis wertet. „Die Beklagten behaupten, sie könnten nicht aufhören, mit ihren potenziell zivilisationsvernichtenden Vorhaben voranzustürmen, es sei denn, die Regierung zwinge sie dazu", heißt es in der Eingabe. „Sie haben die Regierung gebeten, sie am Mast festzubinden."

OpenAI widersprach und erklärte, das Training seiner leistungsfähigsten Modelle bereits ausgesetzt zu haben, bis zusätzliche Schutzmaßnahmen greifen. Sprecher Drew Pusateri sagte, Regierungen hätten eine wichtige Rolle bei robusten Sicherheitsstandards, und das Unternehmen sei bereit, mit Florida und anderen Bundesstaaten an Regeln zu arbeiten, die für die gesamte KI-Branche gelten – „nicht nur für ein Unternehmen".

Auslöser der Klage waren eine Schießerei an einer Universität in Tallahassee im vergangenen Jahr und weitere Fälle, in denen ChatGPT angeblich Informationen an Personen lieferte, die später Gewalttaten begingen. Uthmeier, ein Republikaner, ist der erste Generalstaatsanwalt eines Bundesstaates, der OpenAI wegen der Wirkung auf junge Nutzer verklagt. OpenAI bestreitet eine Haftung und argumentiert, der Chatbot gebe online breit verfügbare Informationen aus und die Sicherheitswerkzeuge würden laufend aktualisiert.

Der Fall ist Teil mehrerer zusammenlaufender Entwicklungen. OpenAI sieht sich auch Klagen von Einzelpersonen und Familien gegenüber, und die FTC hat nach einer Reihe von Vorfällen eine breite Untersuchung der Sicherheit von Frontier-KI-Systemen eröffnet, die sich auf die Risiken agentischer Modelle konzentriert.

Quellen