Eine Woche, nachdem eine kritische Sicherheitslücke in PHP zahlreiche Websites offline zwang, hat die Grünen-Bundestagsfraktion einen Antrag vorgelegt, der verbindliche Sicherheitsstandards für leistungsfähige KI-Systeme festschreiben und Unternehmen sowie ihre Führungskräfte für verursachte Schäden haftbar machen soll.
Der am 27. Oktober bekannt gewordene Antrag verlangt unabhängige Prüfungen und eine verbindliche, dokumentierte Aufarbeitung schwerer Vorfälle. „Die Sicherheit von KI-Systemen darf nicht länger allein den entwickelnden Unternehmen überlassen werden“, sagte die digitalpolitische Sprecherin Rebecca Lenhard. Wer Schäden verursache, müsse haften – und das solle auch für die Führungsebene großer KI-Konzerne gelten.
Die zeitliche Nähe ist gewollt. Die PHP-Lücke hatte zahlreiche Websites vorsorglich vom Netz genommen, und Lenhard verwies darauf als Beleg dafür, wie verwundbar die digitale Infrastruktur ist. Ihr weiteres Argument macht aus einer Patch-Geschichte eine KI-Geschichte: Angreifer können solche Lücken mit KI immer schneller finden und ausnutzen, was die Grünen als Grund für strengere Sicherheitsvorgaben für die leistungsfähigsten Systeme lesen.
Der Antrag fordert zudem einen personellen, finanziellen und technischen Ausbau des Bundesamts für Sicherheit in der Informationstechnik (BSI) und des KI-Sicherheitsinstituts (AISI) sowie deutsches Engagement für gemeinsame internationale KI-Sicherheitsstandards, auch bei den Vereinten Nationen. Der Grünen-Politiker Konstantin von Notz verwies auf die Vorfälle der vergangenen Wochen und verlangte, die Regierung müsse zeigen, dass auf Ankündigungen Taten folgten.
Der rechtliche Rahmen macht die Forderung konkreter, als sie klingt. Die überarbeitete EU-Produkthaftungsrichtlinie erfasst Software und KI-Systeme ausdrücklich als Produkte, und Deutschland muss sie bis zum 9. Dezember 2026 umsetzen – eine Frist, die „Haftung für KI“ von einem Slogan in eine Gesetzesarbeit mit Datum verwandelt. Die separate europäische KI-Haftungsrichtlinie, die genau die Beweisprobleme adressieren sollte, die KI-Schäden schwer einklagbar machen, wurde im Februar 2025 zurückgezogen; Fragen zu Beweislast und Zuständigkeit bleiben damit national geregelt.
Diese Lücke ist der Schwachpunkt jedes Haftungsregimes, und der Antrag sagt noch nicht, wie sie geschlossen werden soll. Zwischen Hersteller, Betreiber und Nutzer eines KI-Systems lassen sich Verantwortungsanteile vielfältig verteilen; ein Chatbot mit schädlichem Rat, ein Agent, der eine Datenbank löscht, und ein Modell, das beim Auffinden einer Schwachstelle hilft, sind drei verschiedene Kausalketten. Die persönliche Haftung von Führungskräften ist ein weiterer Schritt – und müsste sich sowohl am deutschen Gesellschaftsrecht als auch an der praktischen Schwierigkeit messen lassen, eine konkrete Managemententscheidung als Ursache eines konkreten Schadens zu beweisen.
Druck kommt auch aus den Behörden. BSI-Präsidentin Claudia Plattner verwies zuletzt darauf, dass Unternehmen KI zunehmend einsetzen, während viele noch keine festen Abläufe für KI-Sicherheitsvorfälle haben – genau jene operative Lücke, die mehr Personal und schnellere Warnverfahren schließen sollen.
Der internationale Kontext bewegt sich in dieselbe Richtung. Australische Cybersicherheitsbehörden warnten am 27. Oktober, KI werde von staatlichen und kriminellen Akteuren genutzt, um Schwachstellen schneller und in größerem Umfang auszunutzen.
