MIT entwickelt Gauß'sches Sondierungsverfahren zur Erkennung von KI-Modellen, die mit schädlichen Inhalten trainiert wurden

Forscher des MIT haben in Zusammenarbeit mit der Kinderschutzorganisation Thorn eine bahnbrechende Prüftechnik namens Gauß'sches Sondieren vorgestellt, die erkennen kann, ob ein generatives KI-Modell heimlich zur Erzeugung schädlicher Inhalte – insbesondere Kinderpornografie (CSAM) – optimiert wurde, ohne jemals ein einziges schädliches Bild oder einen Text zu erzeugen.

Die in Nature veröffentlichte Methode zielt auf LoRA-Adapter (Low-Rank Adaptation) ab, eine beliebte und effiziente Möglichkeit, große Sprach- und Bildgenerierungsmodelle zu verfeinern. Anstatt das Modell nach illegalen Ausgaben zu fragen – ein rechtlich und ethisch heikler Ansatz – füttert das Gauß'sche Sondieren das Modell mit zufälligen Datenpunkten und analysiert, wie sich seine internen Darstellungen verschieben.

„Das Problem beim traditionellen Red-Teaming ist, dass man schädliche Inhalte erzeugen muss, um zu wissen, ob das Modell dazu in der Lage ist“, sagte der leitende MIT-Forscher. „Unsere Methode identifiziert die funktionale Signatur eines schädlichen LoRA-Adapters, ohne diese Grenze zu überschreiten.“

Die Technik misst, wie ein LoRA-Adapter den internen Merkmalsraum eines Modells funktional stört. Schädliche Adapter hinterlassen einen eindeutigen statistischen Fingerabdruck – selbst wenn sie mit völlig harmlosen Gaußschen Rauscheingaben angeregt werden.

Die Forschung adressiert eine wachsende Krise: Da Modelle mit offenen Gewichten und Feintuning-Werkzeuge weithin zugänglich werden, können böswillige Akteure sie mit minimalem Aufwand für schädliche Zwecke anpassen. Strafverfolgungs- und Plattformsicherheitsteams fehlen derzeit skalierbare Werkzeuge, um Modelle zu prüfen, ohne sich den Inhalten auszusetzen, die sie eigentlich erkennen sollen.

Thorn, das an vorderster Front beim Einsatz von Technologie zur Bekämpfung von Kindesausbeutung steht, hat die Methode mitentwickelt und gegen bekannte schädliche Adapter validiert. Die Organisation plant, das Gauß'sche Sondieren in ihr Sicherheitswerkzeugpaket für KI-Plattformen zu integrieren.

„Dies ist ein Paradigmenwechsel für die KI-Sicherheitsprüfung“, sagte ein Thorn-Vertreter. „Wir können Modelle jetzt proaktiv in großem Maßstab scannen – bevor sie eingesetzt werden – ohne jedes Risiko, dabei illegale Inhalte zu erzeugen.“