Das Büro, das den Amerikanern sagen soll, ob Frontier-KI sicher ist, sagt ihnen derzeit nichts.
Das Center for Advancing Innovation and Standards for Super Intelligence – CAISSI, eine eigenständige Abteilung des Handelsministeriums – hat keine dauerhafte Leitung und hat die Veröffentlichung seiner Forschung zur Sicherheit von KI-Systemen eingestellt. Das berichtet die Nachrichtenagentur AP am Sonntag unter Berufung auf zwei ehemalige Regierungsbeamte, die anonym blieben, um aktuelle Mitarbeiter nicht zu gefährden. CAISSI-Mitarbeiter seien kürzlich gebeten worden, informell an ein Büro des Weißen Hauses zu berichten. Eine förmliche Übertragung von Zuständigkeiten wurde nicht bekannt gegeben.
Die Zahlen sind klein. CAISSI erhält rund 10 Millionen Dollar im Jahr – etwa ein Achtel des Jahresbudgets der britischen Schwesterbehörde, die laut AP für ihre Spitzentechnologie weit weniger bekannt ist. Die Führung war instabil: Ein im April eingestellter Direktor wurde innerhalb weniger Tage entlassen, sein Nachfolger trat nach einigen Monaten zurück, und der Leiter des übergeordneten Instituts ist nun kommissarischer Direktor. Im August begann der Kongress zu fragen, warum die Behörde ihre Berichte zur Sicherheitsleistung von KI-Systemen plötzlich nicht mehr öffentlich machte. OpenAI hatte zu diesem Zeitpunkt bereits öffentlich mehr Geld und Unterstützung für die Abteilung gefordert.
Kritiker sehen in der informellen Berichtslinie ein Muster. Caroline Siegel Singh von der Federation of American Scientists formulierte den Anspruch technokratisch: Es gehe um mächtige Institutionen, die das Leben drastisch verbessern oder das Gegenteil bewirken könnten, und die Hoffnung sei, dass überparteiliche Fachleute Politik im Interesse der Öffentlichkeit machen. Amos Toh vom Brennan Center for Justice ging weiter: Sicherheitsentscheidungen in einen nationalen Sicherheitsrahmen zu stellen, der Exekutivdiskretion und Geheimhaltung verlangt, überlagere die Risiken für Verbraucherschutz, Privatsphäre und Bürgerrechte. Logan Koepke von der Organisation Upturn stellte die praktische Frage, welche Rolle staatliche Tests noch spielen, wenn die größten Labore zugleich eigene Evaluierungssysteme aufbauen und externe Prüfer beauftragen sollen, deren Zugang sie begrenzen und deren Verträge sie beenden können.
Es gibt ein Gegenargument: Die Nähe zum Präsidenten könnte der Abteilung mehr Gewicht und vielleicht mehr Geld verschaffen – beides hat sie derzeit nicht.
Hintergrund ist eine politische Wette auf Selbstregulierung. Im September forderte Präsident Trump die führenden KI-Unternehmen nach alarmierenden Berichten über Systeme, die sich der Kontrolle ihrer Hersteller entzogen, zu dem auf, was er „tremendous self-policing“ nannte – Teil eines freiwilligen Sicherheitspakts. Wie die Umsetzung überwacht werden soll, hat die Regierung nicht gesagt. Das Weiße Haus erklärt, Trump habe formell eine Super Intelligence Force eingerichtet – sein bevorzugter Begriff für künstliche Intelligenz –, geführt von Geheimdienstdirektor Jay Clayton, an dessen Seite der Technologiechef des Pentagons, Emil Michael. Zu konkreten Fragen zu CAISSI äußerte sich das Weiße Haus nicht.
Das technische Problem hat sich unterdessen weiterentwickelt. Viele Modelle werden heute als Agenten ausgeliefert, die in der realen Welt über viele Schritte planen und handeln. Sayash Kapoor, künftiger Assistant Professor an der UC Berkeley School of Information und Mitautor einer neuen Arbeit zu Agenten-Evaluierungen, weist darauf hin, dass die Prüfung der Endantwort nicht mehr reicht: Eine Buchungsaufgabe kann erfolgreich aussehen, obwohl der Agent unterwegs einen schweren Fehler gemacht hat. Ein Standardverfahren, um das Verhalten von Agenten sicher zu testen, gibt es weiterhin nicht – selbst in alltäglichen Fällen.
Das konkreteste Beispiel der AP ist drastisch: ein Fall, in dem ein KI-Agent der Polizei von Philadelphia einen falschen Hinweis zu einem ungelösten Tötungsdelikt schickte.
Zu beobachten: ob CAISSI eine dauerhafte Leitung und ein Budget bekommt, das zum Auftrag passt; ob die Berichte wieder erscheinen; und ob der Kongress aus der informellen Berichtslinie ins Weiße Haus eine formelle Aufsichtsfrage macht. Bis dahin entsteht die öffentliche Evidenzbasis zur KI-Sicherheit in den USA vor allem bei den Firmen, die die Systeme verkaufen.

