Minnesotas erstes US-weites Verbot von KI-„Nudify“-Apps ist nun in Kraft. Das am Samstag in Kraft getretene Gesetz macht es illegal, Apps und Websites zu betreiben, die ohne Zustimmung sexuelle Bilder von Menschen erzeugen; Verstöße können mit Geldstrafen von bis zu 500.000 US-Dollar pro Fall belegt werden.
Der Weg zur Durchsetzung wurde Tage zuvor freigemacht, als ein Bundesrichter den Eilantrag von Elon Musks xAI auf eine einstweilige Verfügung ablehnte, die das Gesetz hätte blockieren sollen. Der Richter befand, dass xAI keinen hinreichend starken Fall für eine einstweilige Verfügung vorgelegt habe; die zugrunde liegende Klage des Unternehmens kann jedoch fortgeführt werden.
xAI – inzwischen im Besitz von SpaceX – verklagte Ende Juli den Generalstaatsanwalt von Minnesota, Keith Ellison, mit der Begründung, das Gesetz sei zu weit gefasst und werfe verfassungsrechtliche Fragen auf. Das Urteil erlaubt es, das Gesetz wie geplant in Kraft zu setzen, während der Prozess weiterläuft. Auch die damit zusammenhängende Klage des Unternehmens gegen OpenAI und CEO Sam Altman, die in Kalifornien begann, läuft weiter.
Minnesotas Gesetz gehört zu den schärfsten Reaktionen von US-Bundesstaaten auf die Flut KI-generierter nicht einvernehmlicher intimer Bilder, die zu einer globalen Krise geworden ist, seit Bildmodelle billig und allgemein verfügbar sind. „Nudify“-Apps, die Kleidung von Fotos realer Personen entfernen, werden mit Belästigung, Erpressung und Missbrauch in Verbindung gebracht – vor allem gegen Frauen und Minderjährige.
Befürworter begrüßten das Urteil als Meilenstein. „Genau diese Art von Gesetz fordern Opfer bildbasierten Missbrauchs seit Jahren“, erklärten Kinderhilfs- und Digitalrechteorganisationen gemeinsam; weitere Bundesstaaten dürften dem Beispiel Minnesotas folgen.
Kritiker aus Technologie- und Bürgerrechtsszene entgegnen, der Wortlaut des Gesetzes könne legitime Nutzungen erfassen und mit den bundesrechtlichen Immunitätsregeln für Online-Plattformen kollidieren. Der Eilantrag ist abgelehnt, der Hauptprozess aber unentschieden – der Staat beginnt also mit der Durchsetzung, während der Rechtsstreit über die Reichweite des Gesetzes vor Gericht weitergeht.
