Anthropic hat sein Lobby-Gewicht offenbar hinter die schmuckloseste Zahl der KI-Politik gestellt: fünfzig.
Das Unternehmen schlägt Gesetzgebern ein Sicherheitsgesetz vor, das ein Modell blockieren ließe, wenn durch seinen Einsatz fünfzig oder mehr Menschen getötet werden könnten, berichtete TechCrunch diese Woche. Kein Benchmark-Wert. Keine Compute-Schwelle, in Gleitkommaoperationen gezählt. Keine Capability-Evaluierung, deren Name zweimal erklärt werden muss. Eine Zahl von Todesopfern, ins Gesetz geschrieben, bevor die Toten existieren.
Das ist eine seltsamere und berechnendere Wahl, als es zunächst aussieht.
Drei Jahre lang ist die Debatte über KI-Regulierung an der Messung hängen geblieben. Compute-Schwellen wurden zum Lobbykrieg darum, wo die Linie verläuft und wer zählen muss. Benchmark-Werte veralten in Monaten und belohnen, wer am härtesten auf den Test hin abstimmt. Capability-Evaluierungen — kann dieses Modell jemandem wirklich beim Bau einer Biowaffe helfen — sind die richtige Frage und das am schwersten zu Zertifizierende, weil die ehrliche Antwort meist eine Wahrscheinlichkeit mit breiten Fehlerbalken ist, erzeugt von einem Labor, das die eigene Hausaufgabe benotet.
Eine Schadensschwelle verschiebt die Last. Statt zu fragen, was ein Modell abstrakt kann, fragt der Entwurf, was geschieht, wenn es das tut. Luftfahrtzulassung und Arzneimittelgenehmigung arbeiten längst so: nicht 'ist das sicher', sondern 'liegt das Restrisiko unter einem benannten Wert' — und der Stift liegt bei der Behörde, nicht beim Hersteller.
Das Wort, das die Arbeit macht, ist 'könnten'. Fünfzig Menschen, bewertet von wem, auf welcher Evidenz, mit welcher Konfidenz? Eine Schranke vor dem Deployment verlangt die Antwort, bevor das Modell irgendwo in Größenordnung lief; ein Auslöser nach dem Vorfall verlangt zuerst fünfzig Begräbnisse. Zwischen diesen beiden Lesarten wird der Entwurf umkämpft werden — und dort wird aus einer gut gemeinten Klausel entweder ein undurchführbares Veto oder ein Grabstein.
Dann ist da die Frage, was 'blockiert' heißt. Eine verweigerte Lizenz ist das eine; eine Anordnung, Gewichte zurückzuziehen, die längst auf tausend Servern gespiegelt sind, etwas ganz anderes. Behörden können ein Unternehmen am Ausliefern hindern. Eine Datei aufzuhalten fällt ihnen sehr viel schwerer.
Die Politik schneidet in beide Richtungen, und das Unternehmen weiß es. Ein Labor, das Beschränkungen gegen sich selbst entwirft, kauft sich Glaubwürdigkeit, die keine Pressemitteilung ersetzt — und es schreibt zugleich Regeln, deren Erfüllung sich ein Start-up mit zwölf Beschäftigten nicht leisten kann. Unterstützer nennen das den Preis eines ernsthaften Gesetzes, Kritiker einen Graben mit Gewissen. Beide beschreiben dasselbe Dokument.
Das stärkste Argument für die Zahl ist kein technisches. Es ist, dass über fünfzig öffentlich gestritten werden kann. Compute-Schwellen werden in Kommentaren zu einem Regelungsverfahren erstritten, eine Opferzahl in Zeitungen. Wenn das Ziel ein Gesetz ist, das einen Regierungswechsel übersteht, schlägt klare Sprache die Präzision.
Was der Entwurf nicht leisten kann, ist die Frage zu klären, ob die Schwelle die richtige ist. Niemand kennt die Form der Risikokurve gut genug, um zu sagen, ob fünfzig klug oder absurd ist. Aber eine falsche und bestreitbare Zahl lässt sich revidieren. Ein richtiger und unmessbarer Grundsatz landet meist in einer Schublade.
