Während ihre Ingenieure darum wetteifern, immer leistungsfähigere Modelle auszuliefern, proben die Chefs der größten KI-Labore still ein anderes Szenario: was am Tag danach zu tun ist, wenn ein katastrophaler KI-Vorfall die Öffentlichkeit gegen sie aufbringt.
Axios berichtete, Führungskräfte von OpenAI, Anthropic und anderen führenden Firmen spielten 'Tag danach'-Szenarien durch – den politischen und öffentlichen Rückstoß, falls ein großflächiger Vorfall der KI angelastet wird. Als wahrscheinlichsten Auslöser sehen sie demnach einen Cyberangriff mit realen Folgen: Störungen im Online-Banking und bei Finanzdiensten, regionale Internetausfälle oder Eingriffe in Strom- und Wasserversorgung.
Die Szenarioplanung gilt als Vorsorge, nicht als Vorhersage. OpenAI erklärte gegenüber Axios, man führe Bereitschaftsübungen durch, in denen Teams verschiedene hypothetische Lagen durcharbeiten, und diese würden 'nicht als unvermeidlich' behandelt. Solche Übungen hülfen, sich auf verschiedenste Umstände vorzubereiten, so das Unternehmen.
Die Sorge ist ebenso politisch wie technisch. Sollte eine Katastrophe die Branche diskreditieren, fürchten die Manager laut Bericht einen Rückstoß, der dem Gesetzgeber ein Mandat zur KI-Regulierung geben könnte – mit den US-Zwischenwahlen vor der Tür. Demnach briefen die Firmen still Kongressmitglieder, damit eine Krise die Politik nicht unvorbereitet trifft.
Das Detail ist ein bezeichnendes Gegenstück zur öffentlichen Botschaft dieser Woche. Microsoft-Chef Satya Nadella forderte, jedes fortgeschrittene Modell als 'kompromittiert' zu behandeln und mit einer 'Notbremse' zu versehen, die jede autorisierte Person ziehen kann. Privat bereiten sich die Labore auf den Moment vor, in dem solche Bremsen versagen.
Szenarioplanung ist freilich kein Beleg für einen unmittelbar bevorstehenden Vorfall, und die Labore haben jedes Interesse, umsichtig zu wirken. Was die Übung zeigt: Die eigenen Risikomodelle der Branche behandeln eine ernste KI-Krise inzwischen als reale Möglichkeit statt als fernes Gedankenexperiment – und die Antwort darauf wird vorab geprobt.
