Reuters: Chinesische Militärforscher trainierten Verteidigungssysteme mit US-KI-Modellen

Chinesische Militärforscher haben Ausgaben führender US-KI-Modelle von OpenAI und Anthropic genutzt, um eigene KI-Systeme für Verteidigungszwecke zu trainieren — das ergab eine Reuters-Analyse von mehr als 80 chinesischen Fachaufsätzen und Patenten, die mit der Washingtoner Jamestown Foundation erstellt wurde.

Die bislang unbekannten Erkenntnisse zeigen, wie militärische und sicherheitsnahe Einrichtungen in China die 'Modelldestillation' als Abkürzung nutzen — dabei werden kleinere, spezialisierte Modelle mit Ausgaben eines leistungsstarken KI-Systems trainiert, sodass sie lokal ohne die enorme Rechenleistung laufen, die für Frontier-KI nötig wäre. Dies geschieht trotz Washingtons Bemühungen, Pekings Zugang zu fortschrittlichen Chips zu beschränken.

Die Aufsätze zeigen, dass Forscher der Volksbefreiungsarmee und anderer Militäreinrichtungen Destillation breit einsetzen und US-Modelle sowohl als Quelle technischer Einsichten als auch als Weg sehen, den Rückstand auf amerikanische Rivalen zu schließen. Die Praxis ist vor den US-chinesischen Gesprächen über KI-Governance zu einem großen Konfliktpunkt geworden: US-Beamte werfen chinesischen Stellen vor, Fähigkeiten aus amerikanischen Modellen zu extrahieren, Exportkontrollen zu untergraben und geistiges Eigentum zu verletzen; Peking weist die Vorwürfe als 'Hegemonismus' zurück und verweist auf ähnliche Praktiken US-amerikanischer Firmen. Das chinesische Startup Moonshot bestritt vergangene Woche Vorwürfe der Trump-Regierung, sein Modell Kimi K3 sei per Destillation entstanden.

Konkrete Fälle: Forscher der PLA-Einheit 96941, einer militärischen Geheimdienst- und Cyberkriegseinheit in Peking, nutzten GPT-3.5 von OpenAI, um sensible militärische Quellcodes zusammenzufassen und daraus ein Modell zu trainieren, das ausschließlich in chinesischen Militärnetzen läuft. Forscher der North University of China, die enge Verbindungen zur Rüstungsindustrie hat, verwendeten Claude 3 Haiku von Anthropic, um synthetische Trainingsdaten für die Überwachung sozialer Medien zu erzeugen. Ein Aufsatz von 2024 der National University of Defense Technology der PLA destillierte ein Bildverarbeitungsmodell für Echtzeit-Navigation und Zielerfassung von Drohnen; Forscher der Akademie der Militärwissenschaften Chinas betrieben Zielerkennung auf taktischer Hardware in simulierten Seeoperationen. Anthropic erklärte, in China keinen kommerziellen Zugang zu Claude anzubieten und Policy-Verstöße per Überwachungssystemen zu erkennen.

Experten warnen, dass destillierte Modelle nur ausgewählte Fähigkeiten übernehmen und Frontier-KI nicht vollständig nachbilden können. 'Einem Modell die richtige Antwort beizubringen ist eine Sache, ihm die Begründung hinter der Antwort beizubringen ist viel schwerer', sagte Sunny Cheung von der Jamestown Foundation, die mehr als 60 der Aufsätze analysierte. Chinesische Militärforscher untersuchen Destillation auch als eigene Bedrohung: Im Januar veröffentlichten Forscher der Army Engineering University Arbeiten zur 'datenfreien Destillation' und schlugen Verteidigungen vor, um versteckte logische Informationen in Modellausgaben zu maskieren.