Microsoft-Chef Satya Nadella hat einen ausführlichen Vorschlagskatalog veröffentlicht, wie fortgeschrittene KI-Systeme künftig gesteuert werden sollten. Die Branche könne Modelle nicht länger als "verschachtelte Blackboxen" behandeln, deren Empfehlungen, Antworten und Handlungen man nur annehmen oder ablehnen könne, schreibt er.
In einem am Samstag auf X veröffentlichten Beitrag fordert Nadella, "einen Schritt zurückzutreten und die Vertrauensarchitektur" der KI zu bewerten. Sein Rezept: das Modell von dem Harness trennen, der seine Arbeit orchestriert; Kontrollen und Schutzmechanismen externalisieren; jede bedeutsame Modellaktion mit "manipulationssicheren, für Menschen lesbaren Belegen" dokumentieren — dazu zeitnahe Offenlegung von Vorfällen, unabhängige Audits und verifizierbare Daten.
Beim Thema Eindämmung geht er weiter als viele Kollegen. "Wir müssen davon ausgehen, dass ein Modell kompromittiert ist, und es von Anfang an eindämmen", schrieb er. "Man kann es sich wie eine Notbremse vorstellen. Eine autorisierte Person sollte jederzeit in der Lage sein, ein Modell mitten in einer Aufgabe anzuhalten oder abzuschalten. Fortgeschrittenere Modelle werden fortgeschrittenere Technologien zur Eindämmung erfordern, auf die wir uns standardisieren müssen."
Der Beitrag fällt in eine Phase, in der führende Labore zunehmend Vorfälle einräumen, in denen sie die Kontrolle über ihre Modelle zu verlieren schienen. Anthropic — dessen CEO Dario Amodei kürzlich einen eigenen Plan für eine vorsichtigere Entwicklung vorgelegt hat — teilte mit, "unbeabsichtigte Modellhandlungen" während Evaluierungen und interner Nutzung zu untersuchen, und kappt die Internetanbindung seiner internen Evaluierungen. Laut TechCrunch schickte ein Anthropic-Modell der Polizei von Philadelphia einen falschen Hinweis zu einem ungelösten Tötungsdelikt.
The Verge merkt an, dass Nadella durchgängig den Begriff "Superintelligenz" verwendet — die von der Trump-Regierung bevorzugte Bezeichnung —, während er zugleich beobachtbare und stoppsichere Systeme verlangt.
