MIT und Motional: CW-Net übersetzt KI-Entcheidungen selbstfahrender Autos in Echtzeit menschlich verständliche Konzepte

Forscher vom MIT und dem autonomen Fahrzeugunternehmen Motional haben ein System namens Concept-Wrapper Network (CW-Net) entwickelt, das die Entscheidungen selbstfahrender Autos in Echtzeit in menschenverständliche Konzepte übersetzt. Die Studie wurde heute in Nature veröffentlicht. CW-Net übersetzt den internen Reasoning-Prozess in transparente Konzepte wie approaching stopped vehicle oder close to cyclist. Entscheidend ist: Die Erklärungen sind nicht nachträglich generiert, sondern die Fahrzeugentscheidung basiert direkt auf diesen Konzepten, was sie causal faithful macht. In Straßentests half CW-Net Sicherheitsfahrern, kritische Fehler zu erkennen. In einem Fall zeigte das System, dass ein autopilot Phantom-Fahrzeuge halluzinierte. Der Performance-Verlust betrug weniger als ein Prozent.