OpenAI holt unabhängige KI-Sicherheitsforscher ins Unternehmen und verlagert damit einen Teil jenes Außenkontrolle-Ökosystems in die Firma, die es eigentlich beobachten soll.

Der Zeitpunkt ist nicht gleichgültig. Unabhängige Sicherheitsarbeit hat in den vergangenen zwei Jahren stark zugenommen – Universitätslabore, gemeinnützige Evaluatoren, kleine Forschungsteams und individualgeförderte Forscher –, weil vor allem die größten Labore ihre eigenen Systeme nicht allein beurteilen können sollen. Dieser äußere Ring existiert, um den inneren zur Rechenschaft zu ziehen, und genau seine Leute sind das Personal, das ein internes Team eingestellen möchte.

Die Rekrutierung aus diesem Ring wirkt in beide Richtungen. Das Labor gewinnt Forscher, die ihre Karriere damit verbracht haben, Fehlermodi, Evaluationsdesign und Offenlegungsstandards aus der Perspektive von außen zu denken. Das unabhängige Ökosystem verliert Stimmen, die seine Glaubwürdigkeit ausgemacht haben. Die härtere Frage ist, ob diese Forscher weiterhin extern veröffentlichen, wenn ihr Gehalt vom Labor kommt.

Es folgt einer unruhigen Phase für OpenAIs Sicherheitsorganisation: Im Oktober teilte das Unternehmen mit drei Sicherheitsforschern wegen geteilter Daten mit einem externen Evaluierer, und die EU eröffnete eine Untersuchung vor einem nicht gemeldeten KI-Sicherheitsvorfall. Vor diesem Hintergrund lässt sich die Eingliederung außerer Talente als echte Kapazitätsausweitung lesen – oder als Möglichkeit, Kontrolle nach innen zu verlagern, wo sie leichter zu handhaben ist.

Beide Lesarten sind plausibel. Welche zutrifft, hängt davon ab, was die neu ins Haus geholten Forscher öffentlich sagen dürfen.