In einem beispiellosen Schulterschluss haben 1.367 Forscher und Ingenieure aus OpenAI, Anthropic, Google DeepMind und anderen KI-Frontierlabors einen offenen Brief veroeffentlicht, der davor warnt, dass sich die KI-Entwicklung jenseits menschlicher Kontrolle beschleunigt.
Der Brief erklaert: Es besteht das reale Risiko, dass sich die Faehigkeitsentwicklung jenseits unseres Verstaendnisses oder unserer Kontrolle ueber die resultierenden Systeme beschleunigt. Er fordert die US-Regierung auf, eine internationale Anstrengung zur Entwicklung der technischen und Governance-Werkzeuge zu unterstuetzen.
Drei dominante Themen treten hervor, analysiert von Stuart Russell:
Das Dilemma des Wettruestens. Mehrere Unterzeichner beschreiben, in einer kompetitiven Dynamik gefangen zu sein. Die Welt befindet sich in einem toedlichen Rennen hin zu einer Intelligenzexplosion. Um zu ueberleben, muessen wir uns koordinieren, um das Rennen zu verlangsamen.
Kein Plan fuer Superintelligenz. Ein zweites Thema ist das vollstaendige Fehlen glaubwuerdiger Plaene zur Kontrolle von superintelligenen KI-Systemen. Ein Unterzeichner schrieb: Die KI-Branche hat das ausdrueckliche Ziel, Dinge zu bauen, die klueger sind als Menschen. Keiner von uns weiss noch, wie man sicherstellt, dass diese Dinge unter menschlicher Kontrolle bleiben. Das ist objektiv wahnsinnig und selbstzerstoererisch.
Echte Angst bei den Machern. Das emotionalste Thema ist echte Angst. Ich fuehle mich derzeit ziemlich angstlich angesichts aller Pfade, die ich sehe, die keine nahe, verhandelte Verlangsamung beinhalten. Und die kuerzeste aller Aussagen lautete: Denkt an alles, was wir lieben.
