Der innere Aufstand

Mehr als 1.100 Mitarbeiter und leitende Forscher der weltweit führenden Labore für künstliche Intelligenz — darunter OpenAI, Anthropic, Google DeepMind, Meta AI, Microsoft, Amazon, Mistral und Thinking Machines — unterzeichneten am Dienstag einen beispiellosen offenen Brief mit dem Titel **"Pacing the Frontier."** Der Brief fordert die Trump-Administration direkt auf, technische und Governance-Instrumente zu entwickeln, um die Geschwindigkeit der KI-Entwicklung bewusst zu verlangsamen.

Zu den Unterzeichnern gehören einige der prominentesten Persönlichkeiten der KI-Forschung: Anthropic-CEO Dario Amodei, OpenAI-Mitgründer John Schulman und Wojciech Zaremba, Metas VP für KI-Forschung Dawn Song und leitende Forscher von fast einem Dutzend Unternehmen.

Auffällig abwesend unter den Unterzeichnern: OpenAI-CEO Sam Altman, der erst diese Woche erklärte, dass die Menschheit in die "Singularität" eingetreten sei — den Punkt, an dem KI in der Lage ist, sich autonom zu verbessern.

Die Kernangst: KI, die sich selbst baut

Die zentrale Warnung des Briefes ist, dass führende KI-Unternehmen glauben, kurz davor zu stehen, die KI-Forschung selbst zu automatisieren — was bedeutet, dass KI-Systeme ihre Nachfolger ohne menschliches Eingreifen entwerfen und trainieren könnten.

"Die weltweit führenden KI-Unternehmen glauben, dass sie kurz davor stehen könnten, die KI-Forschung zu automatisieren", heißt es in der Erklärung. "Es ist schwer genau vorherzusagen, wie sehr dies den KI-Fortschritt beschleunigen wird, aber es besteht ein reelles Risiko, dass die Fähigkeitsentwicklung schnell über unsere Fähigkeit hinausgeht, die resultierenden Systeme zu verstehen oder zu kontrollieren."

Was als Nächstes passiert

Mit über 1.100 Unterschriften von genau den Leuten, die die Grenzen der KI-Systeme bauen, stellt der Brief vielleicht das stärkste interne Signal dar, dass die Schöpfer der Technologie glauben, sie bewege sich zu schnell, als dass Sicherheitsvorkehrungen Schritt halten könnten. Ob die US-Regierung — oder irgendeine Regierung — den Appetit oder die Fähigkeit hat, das Tempo des Fortschritts zu regulieren, bleibt eine offene Frage.

Quellen