Eine der beharrlichsten Kritikerinnen der KI-Branche hat ihre Position ungewöhnlich deutlich bekräftigt: Die Debatte darüber, ob künstliche Intelligenz die Menschheit vernichtet, ist für Timnit Gebru kein wissenschaftlicher Streit, sondern eine Marketingkampagne, die auf Regulierer und Investoren zielt.
Im am Montag veröffentlichten Gespräch mit WIREDs Lauren Goode nannte Gebru – die Google 2020 nach einem Streit über eine Arbeit verließ, die Verzerrungen und Umweltkosten großer Sprachmodelle dokumentierte – das Narrativ vom existenziellen Risiko nicht bloß eine Ablenkung, sondern „schädlich". Ihr Kernargument betrifft die Frage, wer die Warnungen bezahlt. Das Future of Life Institute, so Gebru, wurde vom MIT-Physiker Max Tegmark und dem Skype-Mitgründer Jaan Tallinn mitgegründet, der Anthropics Series A anführte; derselbe Tallinn finanziert METR, jenen Gutachter, dessen Bericht über einen angeblich Hugging Face hackenden OpenAI-Agenten große Verbreitung fand. Für Gebru bilden Geldgeber, Labore und die Prüfinstanzen ein einziges Netz – die öffentliche Wahrnehmung vieler unabhängiger Stimmen mit derselben Botschaft sei irreführend.
Folge man dem Geld, ergebe die Botschaft Sinn, die das erklärte Motiv nicht erklärt: Investoren sagt man, dass übermächtige Maschinen kommen, damit sie einsteigen wollen; Regierungen sagt man dasselbe, damit sie den Anschluss fürchten; Regulierern sagt man, das einzig regelungsbedürftige Risiko sei eine fiktive Superintelligenz – und lenkt damit von Rechenzentren, Umweltlast, Urheberrecht und Arbeit ab. „Man kann Verantwortung stets abwälzen", sagt sie: Die Sprache von „Rogue Agents" und „P(doom)" nimmt die Ingenieure aus der Haftung, die die Systeme gebaut haben.
Das Interview erscheint in einer Woche, in der diese Kritik ungewöhnlich konkretes Material hat. Der diese Woche offengelegte Börsenprospekt von Anthropic verbindet einen Verlust von 42 Milliarden Dollar, 518 Milliarden Dollar geplanter Compute-Ausgaben und eine förmliche Warnung, das eigene KI-System könne die Menschheit beenden – genau jene Kombination, die Gebrus Deutung der Anreizlage vorhersagt.
In der Sache antwortet Gebru auch auf den Vorwurf, ihre wegweisende Arbeit „On the Dangers of Stochastic Parrots" von 2021 sei von Reasoning-Modellen überholt. Anthropic-Mitgründer Jack Clark hatte die Denkfigur kürzlich einen „memetisch passfähigen kognitiven Virus" genannt, der Forschende für den Fortschritt der KI blind gemacht habe. Gebru entgegnet, die Arbeit habe beschrieben, was große Sprachmodelle sind – und daran habe sich nichts geändert: Modelle, die auf das wahrscheinlichste nächste Token trainiert sind, verstehen ihre Ausgaben dadurch nicht. Sie verweist auf Arbeiten von Samy Bengios Team, wonach Reasoning-Benchmark-Werte bei kleinen Änderungen der Benchmarks stark einbrechen – das Muster eingeprägter Formate statt allgemeiner Fähigkeit – sowie auf medizinische und Übersetzungsfehler, bei denen Flüssigkeit den Irrtum verbarg, einschließlich des damals beschriebenen Automatisierungsbias.
Ihre Governance-Vorschläge sind bewusst unspektakulär: geltendes Lauterkeitsrecht durchsetzen; Dokumentation der Trainingsdaten verlangen; die Arbeitsbedingungen der Datenarbeiter angehen, die Chatbots labeln und mitunter selbst spielen; das unerlaubte Scrapen von Daten beenden. Diese Maßnahmen – nicht spekulative Superintelligenz-Regeln – würden eine Branche spürbar bremsen, deren gegenwärtige Marktrechnung auf billigen Daten und geringer Rechenschaft beruhe.
Gebru behauptet nicht, KI sei harmlos. Ihr Institut und ihr Anfang nächsten Jahres erscheinendes Buch „Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist" konzentrieren sich auf belegte Schäden: Verzerrung, Umweltlast, Arbeitsausbeutung und Vertrauensverlust durch flüssige, aber unzuverlässige Ausgaben. Der Streit dreht sich darum, wo die Beweislast liegt.
Zu beobachten bleibt: ob Regulierer die langweiligen Instrumente aufgreifen, die sie nennt – Dokumentationspflichten und Marketingregeln – oder weiter um das Hypothetische herum Gesetze bauen; und ob der durch Börsengänge befeuerte Narrativ-Wettkampf verändert, wer in der nächsten Sicherheitsdebatte als unabhängiger Experte gilt.
