Kaliforniens Gouverneur Gavin Newsom hat am 10. September ein Paket aus 13 Gesetzen unterzeichnet, das die strengsten Regeln des Landes für Kinder, soziale Medien und KI-Begleit-Chatbots festschreibt – und eine Vorlage liefert, die andere Bundesstaaten bereits kopieren.

Herzstück ist SB 1119, „Adam's Law“, benannt nach dem kalifornischen Jugendlichen Adam Raine, der nach ausgedehnten Gesprächen mit ChatGPT über Methoden der Selbstverletzung starb; seine Familie verklagt OpenAI. Das Gesetz verlangt von Anbietern von Begleit-Chatbots Altersverifikation, den Schutz Minderjähriger vor unangemessenen Inhalten, Krisenprotokolle bei Suizidgedanken, Elternkontrollen und eine Benachrichtigung der Eltern, wenn ein Kind Sicherheitseinstellungen abschaltet. Kalifornien wird damit der erste Bundesstaat, der unabhängige Audits zur Kindersicherheit und jährliche Risikobewertungen vorschreibt. Standardmäßig dürfen Chatbots Gespräche Minderjähriger nicht dauerhaft speichern, wenn die Eltern nicht zustimmen.

AB 1709 untersagt Plattformen, Nutzern unter 16 algorithmische Empfehlungsfeeds auf Basis ihrer Historie sowie Autoplay und Endlos-Scrollen anzubieten – jene Funktionen, die Forschende am konsistentesten mit extremen Bildschirmzeiten verbinden. AB 2 eröffnet zivilrechtliche Strafen von bis zu einer Million Dollar pro betroffenem Kind, wenn Plattformen nachweislich zu Angstzuständen, Depressionen oder anderen Schäden beigetragen haben; in schweren Fällen können Gerichte den Betrag verdreifachen. AB 1856 baut die Altersverifikation auf: Ab 2027 fragen neue Telefone und Laptops das Geburtsdatum ab und geben an App-Entwickler nur ein Altersgruppen-Signal weiter, nicht das Datum selbst; Linux und andere offene Systeme bleiben ausgenommen. AB 2071 verankert digitale Medienkompetenz im Lehrplan, ergänzt um Cybersicherheit.

Die Branche lenkte weitgehend ein. OpenAI unterstützte die Vorlage nach späten Änderungen, CEO Sam Altman sprach zuvor mit Newsom; Meta nannte das Paket eine vernünftige Balance zwischen Chancen und Risiken der KI.

Die Electronic Frontier Foundation ist nicht überzeugt: Sie nennt AB 1709 Zensur, die die Meinungsfreiheit Minderjähriger beschneide, und argumentiert, echte Sicherheit entstehe durch Medienkompetenz statt Isolation – deshalb unterstützt sie die Bildungsvorschriften, während sie die Verbote ablehnt.

Newsom nutzte die Unterzeichnung für eine Spitze gegen Washington: Es sei frustrierend, dass Kongress und Präsident Trump nichts täten und Kalifornien erneut vorangehen müsse.

Quellen