Wenn ein Sprachmodell gefragt wird, entscheiden soll, wer ein knappes Spenderorgan erhalten soll, fixiert es sich oft auf einen einzigen Faktor — wie Trinkgewohnheiten — und fällt sein Urteil mit absoluter Zuversicht, selbst wenn es aufgefordert wird, einen Münzwurf zu simulieren. Menschliche Entscheidungsträger hingegen wägen mehrere Attribute von Patienten ab und geben offen zu, wenn es keine eindeutig richtige Antwort gibt.
Das ist die zentrale Erkenntnis eines Forscherteams der Pennsylvania State University unter Leitung von Hadi Hosseini, das die Ausgaben mehrerer LLMs mit bestehenden Datensätzen realer menschlicher Entscheidungen in Nierenzuteilungsszenarien verglich. Die Studie wurde auf einer kürzlichen akademischen Konferenz vorgestellt.
Die Forscher stellten zwei Hauptunterschiede fest: Erstens tendierten die KI-Modelle dazu, sich im Gegensatz zu Menschen, die konkurrierende Attribute abwägen — Alter, Gesundheitszustand, Lebensstilfaktoren, Wahrscheinlichkeit der Organannahme —, auf ein einzelnes Attribut zu fixieren und ihr gesamtes Urteil darum aufzubauen. Zweitens zeigten LLMs keinen Ausdruck von Unsicherheit. Selbst wenn sie explizit aufgefordert wurden, eine virtuelle Münze zu werfen und zufällig einen Empfänger auszuwählen, lieferten die Modelle eine „selbstbewusste, deterministische Antwort" anstatt die Zufälligkeit der Situation anzuerkennen.
„Wenn wir knappe Ressourcen zuteilen – sei es eine Niere, ein Arbeitsplatz oder der Zugang zu einer anderen Ressource –, gibt es nicht immer eine einzige objektiv richtige Antwort", fasste John Dickerson zusammen, der an der Studie beteiligt war und die Abteilung für vertrauenswürdige KI bei Mozilla leitet. „Menschen erkennen diese Mehrdeutigkeit und berücksichtigen sie im Rahmen einer offenen Debatte im Zuteilungsprozess, KI-Modelle tun dies oft nicht."
Hosseini betonte, dass das Team nicht dafür wirbt, menschliches Urteilsvermögen bei der Organzuteilung durch KI zu ersetzen, sondern dass das Verständnis des KI-Verhaltens entscheidend sei, da diese Systeme zunehmend in Entscheidungsprozesse eingebettet werden. „Wenn KI an Entscheidungen beteiligt ist, die darüber bestimmen, wer lebt und wer stirbt, ist es keine Option, ihre Rolle falsch zu gestalten", sagte er.
Die Forschung wirft breitere Fragen über den Einsatz von LLMs in jedem hochrangigen Ressourcenzuteilungs-Szenario auf – von der Gesundheitsversorgung über die Einstellung bis hin zur Katastrophenhilfe –, bei dem moralische Mehrdeutigkeit ein Merkmal und kein Fehler ist.
