Ein öffentliches Forum für AGI's schwierigste Fragen
Google- und DeepMind-Forscher haben am Mittwoch das DeepMind Institute gestartet, eine neue öffentliche Einrichtung, die die schwierigsten Fragen rund um künstliche allgemeine Intelligenz aufwerfen und debattieren soll. Das Institut zählt DeepMind-Mitgründer Shane Legg, Google-Manager James Manyika und Google DeepMind-Vorsitzenden Demis Hassabis als Direktoren.
Die Eröffnungskollektion umfasst vier Aufsätze zu Wirtschaftspolitik für den Umgang mit potenzieller AGI-Disruption, Erhaltung menschenlesbarer Modellbegründung, Prinzipien menschlichen Gedeihens und einem Rahmen zur Bewertung frontier KI-Modelle.
Schlüsselvorschläge
Der konkreteste Vorschlag kommt von Hassabis, der einen von den USA geführten Frontier-KI-Standardkörper zur Bewertung der fortschrittlichsten KI-Modelle umreißt. Entwickler sollen anfänglich Modelle freiwillig zur Überprüfung einreichen, bis zu 30 Tage vor der Veröffentlichung. Sobald das Bewertungssystem sich als wirksam erwiesen hat, könnte das Bestehen seiner Tests zur Voraussetzung für den Einsatz von Frontier-Modellen in den USA werden.
Der Körper würde anfänglich Bewertungen in Absprache mit KI-Unternehmen entwickeln, schließlich aber unabhängige, nicht offengelegte Bewertungen entwickeln — Held-out-Tests — um zu verhindern, dass Labs ihre Modelle auf bekannte Bewertungen zuschneiden. Hassabis sagte, der Rahmen könne bei Bedarf verschärft werden, potenziell einschließlich eines koordinierten Verlangsamungsmaßnahmen unter Frontier-KI-Entwicklern.
Das Transparenz-Problem
In einem anderen Aufsatz argumentieren DeepMind-Sicherheitsforscher Rohin Shah und Anca Dragan, dass AI's schrumpgendes Transparenzfenster — die Fähigkeit, ein Modell Schritt für Schritt zu überprüfen — nicht unausweichlich ist. Neue Architekturen machen die mächtigsten Modelle schwerer zu überwachen, und die Autoren sagen, Entwickler und Regulierer sollten die Sicherheitstrade-offs direkt konfrontieren.
