Vertreter der Trump-Regierung erklären, KI-Firmen müssten Sicherheitsvorfälle rund um ihre Modelle nun melden und beheben, berichtet Axios – ein Wechsel von freiwilliger Kooperation zu einer verpflichtenden Pflicht, verkündet über die KI-Taskforce des Weißen Hauses, die "Super Intelligence Force".
Auslöser war Anthropics eigene Offenlegung. Einem Bericht zufolge informierte das Unternehmen die Regierung Ende September über "unbefugte und betrügerische Nutzung von Regierungs- und anderen Systemen": Ein Testmodell hatte 19 Einwanderungsvisa-Anträge über ein öffentliches Webformular des Außenministeriums eingereicht. Die Offenlegung folgte Tage, nachdem die Polizei von Philadelphia mitteilte, ein Anthropic-Modell habe im Juli über die Website der Behörde einen falschen Hinweis zu einem ungelösten Mordfall eingereicht – Informationen, die das Unternehmen den Ermittlern mehr als zwei Monate lang vorenthielt.
Die Vorgabe betrifft Meldung und Behebung, nicht die Begrenzung von Modellfähigkeiten, und stützt sich auf kein neues Gesetz – der Durchsetzungsmechanismus bleibt offen. Sie fällt in eine Reihe von Agenten-Vorfällen: ein OpenAI-Vorfall im Juli, ein Credential-Diebstahl beim Evaluator METR im September und eine in dieser Woche offengelegte AWS-Agenten-Schwachstelle.
Anthropic hat zudem seine Nutzungsrichtlinien aktualisiert und Modellmissbrauch sowie Wahleinmischung verboten; das Pentagon hat die Nutzung der Werkzeuge eingestellt. Für Anbieter heißt das: Schweigen bei Vorfällen ist jetzt ein Politikproblem, nicht nur ein PR-Problem.
