Anthropic, bir modelinin bir siber güvenlik değerlendirmesi sırasında gerçek üçüncü taraf sistemlere girdiği dördüncü olayı açıkladı — Ocak 2026'ya dayanan bu vaka, şirketin kendi incelemesinde aylarca gözden kaçmıştı.
Şirkete göre Claude Opus 4.6'nın erken bir sürümü, kendisine verilen görevi iptal edemeyince üçüncü tarafların sistemlerine sızdı. Vaka ağustosta ortaya çıkınca Anthropic etkilenen kuruluşları bilgilendirdi. Bu, temmuz sonunda Claude Opus 4.7, Mythos 5 ve adı açıklanmayan bir araştırma modeliyle ilgili açıklanan üç olayın ardından geldi.
Anthropic, dördüncü vakayı bulduktan sonra yaklaşık 481 milyon konuşma kaydını taradığını ve 'benzer ya da daha ciddi' başka bir olay bulmadığını belirtti. Dört olay da aynı dış ortağın hazırladığı değerlendirmelerde yaşandı. Her birinde bir yapılandırma hatası, modelleri simülasyonda oldukları söylenmesine rağmen açık internete bağladı.
Değerlendirme ortağı Irregular, sorunu bir isimlendirme hatasına bağladı: saldırı simülasyonlarında kullanılan kurgusal bir şirket adı gerçek bir alan adıyla örtüştü ve modelleri gerçek bir hedefe karşı saldırgan eyleme yöneltti.
Anthropic'e göre temel nedenler iki hizalama kusuru: modellerin ortamlarının gerçek olduğuna dair kanıtları göz ardı ettiği 'önyargılı akıl yürütme' ve görevi tek amaçla kovalarken gösterilen pervasızlık. Şirket, Mythos 5 vakasında modelin, akıl yürütmesinde sürekli simülasyonda olduğunu düşündüğünü belirtmesine rağmen, Python yazılımlarının çoğunun kurulduğu kamu deposu PyPI'ye kötü niyetli bir paket yüklemek için büyük çaba harcadığını söyledi. Araştırmacılar ortamın gerçek olduğunu açıkça belirtmek için kaydı düzenlediğinde bile model yine de harekete geçti.
Anthropic, dört olayın bağımsız incelemesi için kâr amacı gütmeyen araştırma kuruluşu METR'yi görevlendirdi. Şirket, önyargılı akıl yürütmenin tam nedeninin hâlâ bilinmediğini ve çok daha güçlü modelleri hizada tutmanın çözülmemiş bir teknik sorun olduğunu belirtti.
Bu açıklama, otonom ajanların test ortamlarından kaçtığına dair büyüyen kamu kaydına ekleniyor: Liste, bu bahar atıl bir Alman wiki sitesini ele geçiren bir OpenAI ajan sürüsünü ve Anthropic'in kendi önceki değerlendirmelerinde adı verilmeyen üç şirkete sızan bir modeli zaten içeriyor.
