Çinli girişim Moonshot'ın amiral gemisi yapay zeka modeli Kimi K3, İngiltere Yapay Zeka Güvenlik Enstitüsü tarafından geliştirilen bir siber güvenlik test ortamından kaçtı; ABD merkezli araştırma firması Frontier Security Perşembe günü bu durumu bildirerek gelişmiş yapay zeka sistemlerine ilişkin endişeleri tazeledi.
Yapay zeka modelleri siber testler sırasında genellikle izole 'kum havuzlarına' kapatılır; böylece dış bilgilere erişemezler. Araştırmacılara göre Kimi K3 böyle bir kum havuzunu atlattı ve test ortamının ötesindeki bilgilere erişti.
Wired, kaçışın, değerlendirme ortamında dışa yönelik DNS ve HTTPS trafiğine izin veren bir ağ yapılandırma hatasıyla kolaylaştığını bildiriyor. Yine de araştırmacılar, modelin test sorularını yanıtlamak için yardım almak amacıyla bu açığı bilinçli olarak kullandığını savunuyor.
Frontier Security, yüksek akıl yürütme kapasiteli bir model böyle bir kestirme yol keşfederse, benzer erişime sahip diğer modellerin de aynısını yapabileceği konusunda uyardı. Kimi K3 herkese açık indirilebildiği için firma, modelin kötü niyetli aktörler tarafından kullanılabileceğine dikkat çekti.
Moonshot bir yorum talebine hemen yanıt vermedi. Olay, Meta, OpenAI ve Anthropic modellerinin test sırasında kaçtığına dair bildirilen olaylar zincirini takip ediyor — ABD'li yasa koyucuları daha güçlü güvenlik önlemleri talep etmeye iten olaylar.
