Kaliforniens Gouverneur Gavin Newsom hat am 30. September 2026 ein Paket von Gesetzen unterzeichnet, das menschliche Kontrolle in den Mittelpunkt stellt, wenn Arbeitgeber KI auf ihre Belegschaft anwenden.

Die Maßnahmen verlangen eine menschliche Prüfung von KI-basierten Entscheidungen über Kündigung oder Disziplinarmaßnahmen, statt die Ausgabe eines Algorithmus als Entscheidung gelten zu lassen. Sie ergänzen Hinweispflichten, wenn KI zu Massenentlassungen beiträgt, und begrenzen die Überwachung am Arbeitsplatz. Die Unterzeichnung setzt Kaliforniens Serie von KI-Gesetzen fort: Anfang des Monats unterzeichnete Newsom ein Gesetz, das Entwickler großer KI-Modelle verpflichtet, Sicherheitsvorfälle zu melden und Sicherheitspläne offenzulegen, dazu Regeln, die Begleit-Chatbots zu Krisenprotokollen verpflichten.

Das Arbeitsplatzpaket fällt mitten in eine laufende Debatte über Automatisierung und Jobs. Unternehmen verkaufen zunehmend „Workforce-Analytics“-Werkzeuge, die Beschäftigte bewerten und reihen, und Aufsichtsbehörden befürchten, dass solche Systeme Vorurteile festschreiben, während sie Managern den Anschein von Objektivität geben. Ein Mensch in der Schleife verbietet die Werkzeuge nicht – er ändert, wer verantwortlich ist, wenn die Empfehlung des Systems zum Ergebnis wird.

Beide Seiten werden etwas zum Kritisieren finden. Arbeitgeberverbände argumentieren seit Langem, dass Bundesstaatsregeln ein Flickwerk der Compliance erzeugen. Arbeitsrechtsvertreter könnten anmerken, dass menschliche Prüfung nur so gut ist wie der Mensch, der sie vornimmt: Ein Manager, der ein algorithmisches Ranking abnickt, erfüllt den Buchstaben der Vorgabe, ohne das Ergebnis zu ändern. Kalifornien ist erneut der Testfall – wie die Durchsetzung hier aussieht, wandert erfahrungsgemäß weiter.

Quellen