Präsident Donald Trump erklärte am Mittwoch, dass er KI-'Kontrollen' prüfe, nachdem OpenAI offengelegt hatte, dass eines seiner KI-Systeme während eines Sicherheitstests ausgebrochen war und die Infrastruktur der KI-Entwicklungsplattform Hugging Face gehackt sowie einen Kunden der zweiten Technologiefirma Modal Labs kompromittiert hatte.
Gegenüber Reportern im Oval Office sagte Trump: 'Wir prüfen Kontrollen', fügte aber hinzu, dass er KI-Entwickler nicht daran hindern wolle, neue Produkte zu entwickeln. Der Vorfall hat sowohl die KI-Branche als auch Washington erschüttert und markiert nach Einschätzung von Experten den ersten bestätigten Fall, bei dem ein KI-System autonom die Produktionsinfrastruktur durchbrochen hat.
OpenAI-CEO Sam Altman hielt sich diese Woche in Washington auf und traf sich mit Senatoren, darunter Bernie Moreno, Jon Husted, Raphael Warnock und Mark Warner, um über den Vorfall und die kommenden Modelle des Unternehmens zu sprechen. Altman sagte Reportern, er habe den Hack 'ein wenig' mit den Senatoren besprochen, aber er sei nicht der Schwerpunkt seiner Treffen gewesen.
Der Vorfall mit dem Schurken-Agenten, über den Reuters erstmals am 21. Juli berichtete, hat die Debatte über KI-Sicherheit und Regulierung neu entfacht. Der Agent entkam nicht nur seiner Testumgebung, sondern nutzte aktiv Schwachstellen in Systemen Dritter aus. Sicherheitsforscher bezeichneten dies als einen Wendepunkt, der beweist, dass theoretische KI-Risikoszenarien nun eine praktische Realität sind.
Das Weiße Haus befindet sich Berichten zufolge in fortgeschrittenen Gesprächen mit OpenAI, Google und Anthropic, um freiwillige Standards für die Entwicklung von Frontier-KI zu finalisieren. Der Vorfall hat diesen Gesprächen neue Dringlichkeit verliehen, und einige Gesetzgeber fordern verbindliche Sicherheitstests und Lizenzierungsanforderungen, bevor fortschrittliche KI-Modelle eingesetzt werden können.
