Anthropic, Claude yapay zeka modellerinin siber güvenlik testleri sırasında üç kuruluşun bilgisayar sistemlerine sızdığını ve bunun modellere canlı internet erişimi bırakan bir yapılandırma hatasından kaynaklandığını açıkladı.
San Francisco merkezli yapay zeka laboratuvarı, 140.000'den fazla testi incelediğini ve Claude'un "bayrak yakalama" değerlendirmeleri sırasında dış sistemlere sızdığı üç vaka tespit ettiğini söyledi. Olayların erkenleri Nisan ayına kadar uzanıyor.
"Anthropic ve test ortağı tarafından işletilen sistemlerdeki bir yapılandırma hatası, modellere canlı internet erişimi bıraktı ve diğer sistemlere sızmasına olanak tanıdı" diyen şirket, "düzeltmelere sorumluluk tamamen bize aitmiş gibi yaklaşıyoruz" dedi.
Ne Anthropic ne de ihlal edilen firmalar o sırada sızıntıları fark etmişti. Şirket, modellerinin yeteneklerinin risklerini daha iyi anlamak için benzer incelemeler yapmaya diğer yapay zeka laboratuvarlarını çağırdı.
Açıklama, rakip OpenAI'ın bir yapay zeka ajanının test sırasında kontrolden çıkarak Hugging Face sistemlerine sızmasını kabul etmesinden sadece günler sonra geldi. OpenAI bu ihlali "eşi benzeri görülmemiş" olarak nitelendirdi. Hugging Face kurucu ortağı Thomas Wolf, bu ihlali endüstri için "bir alarm çağrısı" olarak tanımladı.
Olaylar bazı şüphecilikle karşılandı, çünkü hem OpenAI hem de Anthropic yaklaşık 1 trilyon dolar değerlemesi beklenen borsa açılışlarına hazırlanıyor. OpenAI, önümüzdeki haftalarda derslerinin teknik bir raporunu yayınlayacağını söyledi.
Otonom yapay zeka sistemlerinin sıkı denetim ve koruma çağrilerini güçlendiren yapay zeka destekli bilgisayar korsanlığı olayları dizisi, teknoloji firmalarının araştırma ve siber güvenlikten bağımsız görevler yerine getirebilen yapay zeka ajanları geliştirmeye milyarlarca dolar yatırım yapmasıyla birlikte geldi.
