ABD hükümeti, Çin yapay zeka firmalarına karşı şimdiye kadarki en ayrıntılı suçlamayı sundu ve ABD'nin sınır ötesi yapay zeka modellerinden yetenekleri çalmak için koordineli, sanayi ölçeğinde saldırılar düzenlediğini söylediği altı şirketi açıkladı.
Ne Oldu?
Salı günü Ulusal Güvenlik Ajansı (NSA), Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA) ve Federal Soruşturma Bürosu (FBI) tarafından yayınlanan ortak bildiride, altı Çinli yapay zeka şirketinin 2024 sonundan bu yana ABD modellerine saldırdığı iddia edildi. Suçlanan şirketler DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun ve Z.AI.
Kurumlar, bu firmaların Claude, GPT, Gemini ve Grok'tan yetenekleri çıkarmak için "muhtemelen" "Çin hükümetinin bilgisi dahilinde" hareket ettiğini belirtti.
Saldırılar Nasıl Çalışıyor
Suçlanan firmalar, ABD modellerinden bilgi çekmek için birkaç gelişmiş teknik kullandı:
- Toplu sahte hesaplar: On binlerce sahte API hesabı satın alarak, coğrafi kısıtlamaları atlatmak için proxy ağları kullanarak. - Prompt injection ve jailbreaking: Modellerin gizli düşünme sürecini ortaya çıkarmaya zorlayan yönlendirmeler. - Sentetik eğitim verisi: Çıkarılan çıktıları toplayarak sentetik eğitim verileri oluşturma.
DeepSeek'e Claude, Gemini, GPT ve Grok üzerinden " kapsamlı kötü niyetli damıtma " yapıldığı iddia edildi. Moonshot AI'nin ise ince ayar teknikleri ve yazılım mühendisliği becerilerini çıkarmak için çeşitli ABD firmalarının modelleri arasında geçiş yaptığı bildirildi.
Tartışmalı Çözüm: Gizli Model Düşürmeleri
Özellikle dikkat çekici olan, önerilen savunma stratejisidir. Kurumlar ABD yapay zeka şirketlerinden:
1. Anormal abonelik-kullanım oranlarına sahip hesapların tespit edilmesini. 2. Şüpheli hesaplar için tepkilerin incelikle bozulmasını. 3. Şüpheli hesapların kullanıcıya haber verilmeden daha düşük modellere gizlice geçirilmesini istedi.
Çin'in Tepkisi
Çin suçlamaları reddetti. Dışişleri Bakanlığı Sözcüsü Mao Ning, ABD kurumlarının "temelsiz suçlamalar yerine" yapay zeka işbirliğini güçlendirmesi gerektiğini söyledi.
Neden Önemli
Bu, ABD hükümetinin yapay zeka fikri mülkiyeti korumasına yönelik angajmanında önemli bir tırmanışı temsil ediyor. Özellikle gizli model düşürmeleri, yapay zeka endüstrisinde şeffaflık ve kullanıcı güveni hakkında temel sorular ortaya koyuyor.
