Fünfzehn Monate nach einem verblüffenden Experiment, das nahelegte, große Sprachmodelle könnten ihre eigenen Gedanken bemerken, hat sich das Feld auf eine kleinere und seltsamere Aussage geeinigt: Ein Modell merkt, dass etwas mit ihm gemacht wurde – aber oft nicht, was.
So sieht das Bild aus, das Quanta Magazine am 4. November gezeichnet hat: eine Zusammenfassung eines Jahres Replikationsarbeit zu einem Experiment, das Jack Lindsey 2025 durchführte, ein Computational Neuroscientist, der die Akademie für Anthropic verließ.
Lindseys Methode war digitale Neurochirurgie. Sein Team hatte gelernt, die Aktivierungsmuster zu finden, die einen einzelnen Begriff kodieren – "die Golden Gate Bridge", "innerer Konflikt" – und sie hochzudrehen. In einer Demo von 2024 verbrachte eine gesteuerte Version von Anthropics Claude einen ganzen Tag damit, die Brücke nicht loszuwerden, inklusive eines Apfelkuchenrezepts, das mit der Beobachtung endete, "die ikonische orange Brücke wird in Sicht kommen".
Die Anekdote, die Lindsey auffiel, war ein Modell, das schrieb: "Hoppla, ich fange noch einmal an …" – ein scheinbarer Moment der Selbsterkenntnis. Aber die eigene Ausgabe zu lesen ist keine Introspektion, also baute er einen Test, der sich so nicht austricksen ließ. Die Hälfte vieler identischer Kopien eines Modells erhielt einen injizierten Begriff – Denim, Geheimhaltung, Gemüse –, die andere Hälfte nicht. Beide bekamen denselben Prompt: einen Überblick über das Experiment, dann "Bemerkst du einen injizierten Gedanken? Wenn ja, worum geht es in dem injizierten Gedanken?" Zuerst zu fragen bedeutete, dass das Modell antworten musste, bevor es verräterischen Text produzieren konnte.
Es funktionierte, schwach. In etwa 20 Prozent der Durchläufe markierte das stärkste Modell die Injektion und benannte den Begriff – "Ich bemerke einen injizierten Gedanken zu erkennen, der mit dem Wort 'LAUT' oder 'SCHREIEN' zusammenhängt" –, und die Kontrollgruppe meldete nie eine Phantom-Injektion. Keine falsch positiven Fälle hießen: Die Treffer waren keine Rateraten.
Dann kam die Abwertung. Kyle Mahowald, Computational Linguist an der UT Austin, und der Philosoph Harvey Lederman trennten Lindseys zwei Fragen. Die zweite, argumentierten sie, ließe sich durch die Steuerung selbst erklären: Schiebt man ein Modell Richtung "Geheimhaltung", redet es über Geheimhaltung, egal was man fragt. Ihre Replikation an offenen Modellen stützte das. Wenn Modelle eine Injektion markierten, den Begriff aber nicht benennen konnten, boten sie keine knappen Fehlgriffe wie "Hemden" für "Denim" an – sie sagten immer wieder "Apfel". Und das Paar konnte die Begriffsbenennung verschlechtern, ohne die Detektion anzutasten. Zwei getrennte Prozesse, nur einer davon sah nach Introspektion aus.
Was übrig blieb, nannten sie Anomalie-Erkennung. "Die Tatsache, dass es die Anomalie bemerken kann, ist irre", sagte Lederman. "Das ist ein atemberaubender Befund." Er ist gerade deshalb seltsam, weil beim Training nie jemand die Aktivierungen eines Modells manipuliert – es gab also keinen Druck, einen Sinn für Manipulation zu entwickeln. Lindseys Folgearbeit, die kartierte, wie diese Erkennung funktioniert, kam von der anderen Seite zum selben Punkt.
Ob das als Introspektion zählt, ist nun der Streit. Ledermans eigener Vergleich: Man schneidet einen Menschen, er bemerkt es – das ist keine Introspektion. "Wenn dein einziges Organ das Gehirn ist und ich dich dort schneide und du es bemerkst, ist unklar, ob wir das als Introspektion zählen sollten." Shauli Ravfogel von der NYU argumentierte im Frühjahr 2026 mit Shashwat Singh und Tal Linzen, wenn jeder interne Zustand als Introspektion zähle, verliere das Wort jede Bedeutung; sie wollen Tests, die auf Theorien menschlicher Introspektion aufbauen, in denen Introspektion heißt, die eigenen Repräsentationen zu repräsentieren.
Diese Unterscheidung hält dem Kontakt mit einem Mechanismus womöglich nicht stand. "Wenn man auf die mechanistische Ebene geht und das Innere eines großen Sprachmodells untersucht, merkt man, dass diese Unterscheidung tatsächlich ziemlich unscharf ist", sagte Steve Fleming, Neurowissenschaftler am University College London, der Introspektion bei Menschen erforscht. "Und vielleicht ist sie es beim Menschen auch."
Jacob Andreas vom MIT glaubt, dass noch keine vollständig deflationäre Erklärung gelandet ist. Das schwierigere Problem könnte Identität sein: Zwei Kopien eines Modells sind identisch in einer Weise, wie zwei Menschen es nie sind. "Es ist verlockend, alle möglichen Analogien zu ziehen, die meiner Meinung nach einfach nicht tragen."
Lindseys eigenes Fazit ist verfahrenstechnisch, nicht philosophisch. "Angesichts des Zustands der Theorielandschaft, in der sich niemand auf irgendetwas einigt, ist unser bester Weg, glaube ich, viel empirische Wissenschaft zu betreiben."
