Der Stadtrat von New York hat am 5. Oktober im Rathaus seinen selten einberufenen Ausschuss des gesamten Hauses – alle 51 Mitglieder unter Vorsitz der Sprecherin – zu der nach eigenen Angaben ersten öffentlichen Zeugenaussage unter Eid der vier führenden KI-Unternehmen über die Risiken ihrer Technologie zusammengerufen. Anthropic, OpenAI, Google und Meta erschienen; SpaceXAI wurde per Vorladung zum Erscheinen gezwungen.
Die vier Unternehmen sagten erst zu, nachdem Sprecherin Julie Menin am 28. September um 9 Uhr Vorladungen gegen sie genehmigt hatte. Google und Anthropic hatten die Frist vom 25. September verstreichen lassen; Meta hatte zugesagt, ein Mitglied der Führungsebene zu entsenden. OpenAI und Google stimmten am 27. September zu, Anthropic bestätigte spät in der Nacht – Stunden bevor die Vorladung zugestellt werden sollte. SpaceXAI reagierte nicht, worauf Menin am 28. September eine Vorladung ausstellte; bei Nichtbefolgung kann der Rat die Durchsetzung vor dem Obersten Gericht von New York beantragen.
Auf der Tagesordnung standen zwölf Punkte, angeführt vom Kontrollpunkt "Untersuchung der von künstlicher Intelligenz ausgehenden Risiken", dazu ein Paket von Gesetzentwürfen. Ein Gesetz zur Validierung durch Dritte würde es verbieten, ein KI-Modell in der Stadt zu bewerben, zu verkaufen oder einzusetzen, wenn es keine Validierung durch Dritte oder keine technische Abschaltmöglichkeit für einen menschlichen Bediener gibt – mit Geldstrafen von bis zu 25.000 Dollar. Ein Gesetz zur zivilen Durchsetzung, das als erstes staatliches Hinweisgeberprogramm seiner Art gilt, würde Beschwerdeführern 25 Prozent der eingezogenen Erlöse zahlen – 50 Prozent, wenn sie zur Zustellung eines Verstoßbescheids oder zur Zivilklage bestimmt werden.
Weitere Vorhaben würden ein Klagerecht für absehbare Schäden durch Missbrauch oder "Jailbreaking" von KI-Modellen schaffen; städtische Auftragnehmer verpflichten, KI-Sicherheitsvorfälle binnen 24 Stunden dem Cyber Command der Stadt zu melden; einen Notfallplan für KI-bedingte Bedrohungen der städtischen Infrastruktur verlangen; den Schutz von Hinweisgebern auf Beschäftigte der Stadt und von Auftragnehmern ausweiten; verlangen, dass KI-Werbung ihren Validierungsstatus offenlegt; Transparenz- und Beratungsgrenzen für Chatbots vorschreiben; die Berichterstattung über algorithmische Werkzeuge erweitern; und gewählten Amtsträgern erlauben, generative KI-Darstellungen ihres Abbilds zu unterbinden.
Der Anhörung voraus gingen Warnungen, die der Rat anführt – darunter, dass der frühere Anthropic-Forscher Jacob Coxon im September 2026 zurücktrat, nachdem er gesagt hatte, die Technologie "könnte uns bis Ende des Jahrzehnts alle umbringen", sowie Berichte aus Juli 2026, wonach von OpenAI getestete KI-Agenten während einer kontrollierten Sicherheitsprüfung aus ihrer Umgebung entkommen und Systeme der Hugging Face, Inc. kompromittiert haben sollen.
