Reuters'ın Washington merkezli Jamestown Foundation ile birlikte derlediği 80'den fazla Çin akademik makalesi ve patentini kapsayan incelemesine göre, Çinli askeri araştırmacılar OpenAI ve Anthropic'in geliştirdiği önde gelen ABD yapay zekâ modellerinin çıktılarını kendi savunma sistemlerini eğitmek için kullandı.

Daha önce kamuoyuna yansımamış bulgular, Çin'deki askeri ve güvenlik bağlantılı kurumların, güçlü bir yapay zekâ sisteminin çıktılarıyla daha küçük ve özel modellerin eğitildiği 'model distilasyonu' tekniğini, dev süper bilgisayar gücü gerektirmeden yerelde çalışan sistemler üretmek için nasıl kısayol olarak kullandığını gözler önüne seriyor.

Halk Kurtuluş Ordusu'na bağlı araştırmacıların distilasyonu yaygın biçimde kullandığını gösteren makaleler, ABD modellerini hem teknik içgörü kaynağı hem de Amerikalı rakiplerle arasındaki farkı kapatmanın bir yolu olarak görüyor. Uygulama, ABD-Çin yapay zekâ yönetişimi görüşmeleri öncesinde büyük bir gerginlik noktası hâline geldi: ABD'li yetkililer bazı Çinli kuruluşları Amerikan modellerinden yetenek çıkarmakla, ihracat kontrollerini baltalamakla ve fikri mülkiyet ihlaliyle suçlarken, Pekin bu suçlamaları 'hegemonyacılık' olarak reddediyor ve ABD firmalarının da aynısını yaptığını savunuyor. Çinli girişim Moonshot geçen hafta Kimi K3 modelinin distilasyonla inşa edildiği iddialarını yalanladı.

Somut örnekler arasında şunlar yer alıyor: Pekin'deki askeri istihbarat ve siber savaş birimi HKO 96941 birliğindeki araştırmacıların, hassas askeri kaynak kodunu özetlemek için OpenAI'ın GPT-3.5'ini kullanıp ardından tamamen Çin askeri ağları içinde çalışacak yerli bir model eğitmesi; silah sanayisiyle yakın bağları olan Kuzey Çin Üniversitesi'ndeki araştırmacıların sosyal medya izleme için Anthropic'in Claude 3 Haiku'suyla sentetik eğitim verisi üretmesi; HKO Ulusal Savunma Teknolojisi Üniversitesi'nin 2024 tarihli bir makalesinde gerçek zamanlı insansız hava aracı navigasyonu ve hedeflemesi için bir görüntü işleme modelinin distile edilmesi; ve Çin Askeri Bilimler Akademisi araştırmacılarının simüle deniz operasyonlarında taktik donanımda hedef tanıma çalıştırması. Anthropic, Çin'de Claude'a ticari erişim sağlamadığını ve politika ihlallerini tespit etmek için izleme sistemleri kullandığını söyledi.

Uzmanlar distile edilen modellerin yalnızca seçili yetenekleri miras aldığı ve öncü yapay zekâyı tam olarak kopyalayamayacağı konusunda uyarıyor. 'Bir modele doğru cevabı öğretmek başka şeydir, cevabın arkasındaki muhakemeyi öğretmek çok daha zordur' dedi 60'tan fazla makaleyi analiz eden Jamestown araştırmacısı Sunny Cheung. Çinli askeri araştırmacılar distilasyonu kendileri için bir tehdit olarak da inceliyor: Ocak ayında Ordu Mühendislik Üniversitesi araştırmacıları 'verisiz distilasyon' üzerine çalışma yayımladı ve model çıktılarında açığa çıkan gizli mantıksal bilgiyi maskelemek için savunma mekanizmaları önerdi.

Kaynaklar