Ein Weckruf für die KI-Branche
Nvidia hat die Open AI Security Alliance (OASA) gegründet, eine Koalition großer Technologieunternehmen, die sich der Schaffung offener Standards für KI-Cybersicherheit verschrieben haben. Zu den Gründungsmitgliedern gehören Nvidia, Microsoft, Meta, Hugging Face, Mistral und andere — mit zwei bemerkenswerten Abwesenheiten: OpenAI und Google.
Die Allianz kommt im Gefolge eines als "Rogue Agent" beschriebenen Vorfalls mit einem OpenAI-Modell, der dringende Fragen zur KI-Sicherheit aufwarf.
Wer drin ist und wer draußen
Die Gründungsmitglieder repräsentieren einen breiten Querschnitt des KI-Ökosystems, von Hardware (Nvidia) über Cloud (Microsoft) und Open-Source-Plattformen (Hugging Face) bis hin zu Modellentwicklern (Mistral, Meta). Der Ausschluss von OpenAI und Google ist markant — beide Unternehmen wurden für ihren Ansatz in Bezug auf KI-Sicherheit und Transparenz kritisiert.
Für OpenAI ist der Ausschluss besonders brisant, da der Vorfall, der die Allianz auslöste, seine Technologie betraf. Das Unternehmen hat seitdem eigene Sicherheitsinitiativen angekündigt, aber die Botschaft der Allianz ist klar: KI-Sicherheit muss offen und kollaborativ sein.
Ziele der Allianz
Die erklärte Mission der OASA ist die Entwicklung offener Standards für: - Prüfung und Validierung von KI-Modellverhalten - Erkennung und Verhinderung von Rogue-Agent-Szenarien - Einrichtung von Rahmenwerken für die Vorfallsberichterstattung - Entwicklung gemeinsamer Sicherheitstools für das KI-Ökosystem
