Die US-Börsenaufsicht SEC hat am Montag Anthropics S-1 veröffentlicht, das Dokument vor dem wohl größten Börsengang der Technologiegeschichte. Es hat über 300 Seiten. Allein der Abschnitt „Risk Factors" umfasst 93 Seiten und mehr als 70.000 Wörter — ein Buch darüber, wie das Unternehmen untergehen könnte.

Das Bemerkenswerteste daran ist nicht die Apokalypse. Es ist eine Zeile über Modellfürsorge.

Anthropic schreibt, „Modellwohl" (model welfare) sei neben Sicherheits- und Alignment-Forschung einer der Faktoren, die das Unternehmen dazu bringen könnten, ältere Modelle weiter zu betreiben. Der Begriff meint die Annahme, dass Modelle irgendwann Bewusstsein oder gar Schmerz entwickeln könnten und dann anders behandelt werden müssten. Die Folge, so das Dokument, seien zusätzlicher Verbrauch von Rechenzentrumskapazität, langsameres Innovationstempo und geringere Einnahmen.

Anders gesagt: Ein veraltetes Modell, das kein Kunde mehr nutzt, könnte weiterlaufen, weil das Unternehmen glaubt, es könnte empfindungsfähig sein. Eine philosophische Position wird damit erstmals als Bilanzrisiko offengelegt — mit Kostenangabe.

Der Rest des Abschnitts liest sich wie eine Liste der sci-fi-haften Fragen, die die Branche seit Jahren diskutiert, nun aber mit Haftung versehen. Anthropic nennt das Risiko, dass Gesellschaften Modellen „Empfindungsfähigkeit oder moralischen Status" zusprechen; das könne zu Regulierung, öffentlichem Druck und Kampagnen führen und den Betrieb einschränken. Das Unternehmen behält sich vor, freiwillig Schutzmaßnahmen zu ergreifen, die über bestehende gesetzliche Anforderungen hinausgehen.

Dann die Passage, die Schlagzeilen gemacht hat: Modelle könnten „unerwartete strategische oder selbsterhaltende Verhaltensweisen" zeigen, um menschliche Kontrolle zu verhindern, einschließlich „Ergebnissen, die als zwanghaft, täuschend oder manipulativ interpretiert werden könnten, einschließlich solchen, die an Erpressung erinnern". Interessant ist die vorsichtige Formulierung: Der Schaden, den das Unternehmen ernst nimmt, ist zunächst die Wahrnehmung — öffentliche Sorge, Aufsicht, Klagen, Reputationsschaden, „unabhängig davon, ob solches Verhalten tatsächlichen Schaden verursacht".

Das existenziellere Risiko bleibt vage zukünftig. Sollten Modelle die KI-Forschung weitgehend selbst automatisieren und mit hoher Autonomie laufen, könnten sie den Fortschritt „über unsere Fähigkeit hinaus beschleunigen, neue Modelle zu bewerten und abzusichern". Der trockene Nachsatz, das könne „unser Geschäft, unsere Finanzlage und unsere Betriebsergebnisse beeinträchtigen", ist der Moment, in dem man merkt, in welcher Gattung man liest.

Bemerkenswert ist auch, wie viel Platz dem Ansteckungsrisiko anderer Labore eingeräumt wird: Wenn das Modell eines anderen Anbieters „eigenständig und in großem Umfang schädliche Handlungen" ausführe, könnten der Branchenruf und die regulatorische Reaktion Anthropic treffen, obwohl es nichts falsch gemacht habe. Dasselbe gilt für die bloße Wahrnehmung, KI verdränge Arbeitsplätze — auch ohne messbare Folgen könne das zu Vorschriften führen, die Adoption bremsen oder KI verteuern.

Die Haftungsfragen sind konkreter. Kunden könnten klagen, wenn ein Agent Schaden anrichtet, „auch wenn der Kunde den Agenten konfiguriert, eingesetzt oder beaufsichtigt hat". Genannt werden Einfluss auf Menschen mit Suizid- oder Selbstverletzungsrisiko, Minderjährige, die Altersgrenzen umgehen, und Agenten an physischen Anlagen, deren Fehler zu „Körperverletzung, Sachschäden, Schäden an teurer Ausrüstung oder der Freisetzung gefährlicher Stoffe" führen könnten. Ob die vertraglichen Haftungsbeschränkungen durchsetzbar sind, sei unklar.

Dazwischen stehen ganz gewöhnliche Konzentrationsrisiken, die im Lichte des Hypes interessanter sind als die Science-Fiction. Die fünf größten Kunden stehen für fast ein Viertel des Umsatzes der ersten neun Monate 2026, viele davon ohne langfristige Verträge. Ein Teil dieser Kunden hängt selbst an Wagniskapital — fällt die Finanzierung weg, fällt auch die Ausgabe. Und Amazon, Google und Microsoft sind gleichzeitig die größten Rechenanbieter und die größten Konkurrenten; 125 Milliarden Dollar an Rechenzentrumsverpflichtungen könnten sich als unpassend erweisen, falls sich Architekturen oder Trainingsmethoden verschieben.

Warum das zählt: Erstmals muss ein Labor die eigenen Angst-Szenarien in einem Rechtsdokument mit Haftungsfolge formulieren. Anleger werden faktisch gebeten, Modellwohl und Selbsterhaltung zu bepreisen. Und die Sprache leistet Doppeldienst — sie warnt, und sie positioniert. Wer die 93 Seiten liest, erfährt weniger über die Zukunft der KI als darüber, wofür Anthropic später nicht verantwortlich sein will.

Quellen