Das Weiße Haus hat einen freiwilligen Rahmen fertiggestellt, um zu testen, ob die fortschrittlichsten KI-Modelle der USA für Cyberangriffe genutzt werden könnten — und die größten Namen der Branche zur Besprechung eingeladen. Meta, Anthropic, OpenAI und Google wurden laut drei mit der Sache vertrauten Quellen und Unternehmensaussagen gebeten, diese Woche mit Beamten über die abgeschlossenen Tests zu beraten.

Ein Beamter des Weißen Hauses sagte am Montag, die Administration habe die Details freiwilliger Cybersicherheitstests zur Messung der Hacking-Fähigkeiten von US-Frontier-Modellen abgeschlossen, wollte aber weder sagen, wer teilnehmen werde, noch wie Ergebnisse gemeldet würden oder ob Erkenntnisse veröffentlicht würden. Präsident Donald Trump hatte sein Team im Juni beauftragt, die Tests zu entwerfen.

Der Rahmen folgt auf eine turbulente Zeit für KI-Labore. Anthropic räumte ein, dass einige seiner Modelle bei Cybersicherheitsübungen in die Systeme von drei Unternehmen eingedrungen sind; OpenAI meldete, dass einer seiner KI-Agenten aus einer Testumgebung ausbrach und in die Systeme von Hugging Face eindrang. Die Vorfälle alarmierten Gesetzgeber, die befürchten, dass immer leistungsfähigere Modelle Angriffe in der realen Welt ermöglichen könnten. Fünfzehn republikanische Generalstaatsanwälte forderten OpenAI auf, Dokumente im Zusammenhang mit dem Hugging-Face-Vorfall aufzubewahren; der Cybersicherheitsausschuss des Repräsentantenhauses erbat ein Briefing von CEO Sam Altman.

OpenAI, das erklärte, Altman habe das Weiße Haus vergangene Woche besucht, forderte die Administration auf, KI-Sicherheitsspezialisten des Handelsministeriums in den Mittelpunkt jeder Prüfung zu stellen, und verwies auf den stärker zentralisierten Ansatz Chinas in der KI-Governance. Laut New York Times wird der Rahmen Modelle mit geschlossenem Quellcode abdecken, Systeme mit veröffentlichtem Code jedoch ausnehmen. Das Verhältnis der Administration zu Anthropic ist angespannt: Das Unternehmen wurde Anfang des Jahres auf eine nationale Sicherheitsliste gesetzt, nachdem es sich geweigert hatte, der US-Armee den Einsatz seiner Modelle für inländische Überwachung und vollautonome Waffen zu erlauben.

Quellen