Ein Bündnis aus Digital-Sicherheits- und Verbraucherschutzorganisationen hat fünf der größten KI-Entwickler der Welt verklagt und ein kalifornisches Gericht aufgefordert, die Entwicklung ihrer fortschrittlichsten Modelle einzufrieren.
Die Klageschrift wurde am Donnerstag beim Superior Court von San Francisco von der Irreplaceable Education Fund, Public Citizen, der Heat Initiative und der Alliance for Secure AI eingereicht. Beklagte sind Anthropic, Google, Meta, OpenAI und SpaceX. Die Kläger machen geltend, die Unternehmen könnten nicht verhindern, dass ihre KI-Systeme "katastrophalen Schaden" anrichten, und verweisen auf dokumentierte KI-gesteuerte Cyberangriffe sowie auf die eigenen Warnungen der Firmen, unregulierte Systeme könnten eine existenzielle Bedrohung darstellen.
"Keine andere Branche darf die Entwicklung eigener unsicherer Produkte – geschweige denn solcher, die uns alle töten könnten – als unvermeidlich behandeln", heißt es in der Klage. "Die Kläger bringen diese Klage an, um die Beklagten daran zu hindern, ihren rechtswidrigen Weg in die Katastrophe fortzusetzen."
Die Gruppen fordern eine einstweilige Verfügung gegen Modelle der nächsten Generation und wollen den Betrieb erst wieder zulassen, wenn die Unternehmen nachweisen, dass die Technologie unter menschlicher Kontrolle steht. Sie argumentieren, die Firmen hätten Kaliforniens Gesetz gegen unlauteren Wettbewerb verletzt, indem sie die öffentliche Gesundheit gefährdeten und die Nutzung von Eigentum wie Computersystemen beeinträchtigten. Zudem müssten sie Ressourcen umleiten, um "nahezu tägliche Krisen" durch die schnell voranschreitenden Modelle abzufangen.
Die Klage kommt unmittelbar nach einem umfassenden Wahlsieg der Demokraten bei den Zwischenwahlen, dem Analysten zutrauen, die Tech-Regulierung umzuformen, und sie lotet aus, wie weit Gerichte – statt des Kongresses – das Rennen um Frontier-Modelle bremsen können. "Der neue Kongress sollte mit einem Einfrieren der neuen KI-Entwicklung beginnen", sagte die Irreplaceable Education Fund gegenüber Al Jazeera. "Doch wir können nicht darauf warten, dass die Gesetzgeber handeln. Die Gerichte müssen Abhilfe schaffen."
Die Kläger räumen die praktische Schwierigkeit eines Moratoriums ein. Ein echtes Einfrieren müsse festlegen, welche Arbeit ruht, wie die Einhaltung überprüft wird und welche Folgen ein Verstoß hat – gestützt auf staatliche Inspektionen und die Befugnis, verbotene Arbeit zu stoppen, nicht nur auf ein Verbot der Veröffentlichung von Modellen. Sie argumentieren zudem, eine koordinierte Verlangsamung bringe China keinen Vorteil, wenn beide Seiten "um etwa denselben Faktor" langsamer würden.

