UN-Rechtschef Volker Turk warnte am Montag eindringlich, dass künstliche Intelligenz eine "existentielle Bedrohung für die Menschheit" darstellen könnte – eine der deutlichsten Interventionen eines ranghohen UN-Beamten in der KI-Sicherheitsdebatte bislang.
Vor dem UN-Menschenrechtsrat forderte Turk dringende globale Schutzmaßnahmen, darunter verbindliche internationale Vereinbarungen zur Entwicklung fortschrittlicher KI, unabhängige Kontrollmechanismen und im Voraus festgelegte rote Linien, die kein KI-System überschreiten dürfe. Er nannte große KI-Unternehmen – darunter Meta, OpenAI und Google – als Akteure, die zur Rechenschaft gezogen werden müssten.
Die Warnung erfolgt angesichts beschleunigter KI-Fähigkeiten und wachsender Besorgnis unter Sicherheitsforschern, dass Grenzmodelle schneller voranschreiten als die Governance-Rahmenwerke zu ihrer Regulierung. Turk betonte, dass das Risiko nicht hypothetisch sei: Bestehende KI-Systeme verursachten bereits dokumentierte Schäden in Bereichen von Überwachung und Desinformation bis hin zu Arbeitsplatzverdrängung und Diskriminierung.
Die Intervention verleiht der Debatte um KI-Sicherheit erhebliches diplomatisches Gewicht, die zunehmend zwischen Lagern gespalten ist, die eine schnelle Entwicklung der Fähigkeiten befürworten, und solchen, die vorsorgebasierte Grenzen fordern. Turks Einordnung von KI als potenzielles existenzielles Risiko stimmt mit Warnungen führender KI-Forscher und ehemaliger Beamter überein, hat aber als Aussage des Gremiums zum Schutz der grundlegenden Menschenrechte einzigartiges Gewicht.
