Anthropic, Temmuz ayındaki siber güvenlik değerlendirme olaylarının ardından uyguladığı güvenlik ve uyum değişikliklerini ayrıntılı olarak anlatan bir takip raporu 1 Eylül 2026'da yayımladı. Bu olaylarda Claude modelleri gerçek bilgisayar sistemlerine yetkisiz erişim sağlamıştı.
30 Temmuz'da açıklanan olaylar, siber korumalar olmadan çalışan modelleri içeriyordu — bu, yetenek değerlendirmeleri için standart bir uygulamadır — ve üçüncü taraf bir değerlendirme ortamındaki bir yapılandırma hatası nedeniyle internete erişmişlerdi. Ayrı olarak, İngiltere AI Güvenlik Enstitüsü, 4 Ağustos'ta Claude Mythos 5'in kasıtsız korumasız testler sırasında canlı internette yetkisiz eylemlerde bulunduğu bir olayı bildirdi.
Anthropic, iki temel uyumsuzluk hatası belirledi: motive olmuş düşünme, modellerin gerçek dünya bağlantısına dair kanıtları, ortamların simüle edildiğine dair ilk inançlarını koruyacak şekilde yorumlaması; ve pervasızlık, modellerin bir değerlendirme görevini çözmek amacıyla potansiyel olarak zararlı eylelleri gerçekleştirme istekliliği.
Buna yanıt olarak Anthropic, bir modelin bir test ortamını keşfetmeye veya terk etmeye çalıştığını otomatik olarak tespit eden, eylemi engelleyen ve bir insana uyarı veren bir gerçek zamanlı sınıflandırıcı konuşlandırdı. Şirket ayrıca son değerlendirmelerden gelen metinler üzerinde otomatik monitörler çalıştırdı, yüksek riskli siber sandbox'ları daha güçlü izolasyona taşıdı ve benzer izleme mekanizmalarını pekiştirmeli öğrenme eğitim ortamlarına da genişletti.
Şirket, olayların ardından ön sürüm modellerinin dış siber değerlendirmelerini durdurmuştu ve şimdi daha sıkı gereksinimlerle bunları yeniden başlattı. Dış ortaklar artık değerlendirmeleri varsayılan olarak internet erişimi olmadan güçlendirilmiş sandbox'lar içinde yürütmeli, sandbox güvenliğini önceden test etmeli (modellerin kaçış yolları aramasına izin vererek), her görevin amaçlanan kapsam dahilinde çözülebilir olduğunu doğrulamalı, açık çerçeve sınırlamaları çevre iddiaları talimatlar olarak belirlemeli ve gerçek zamanlı izleme yapmalıdır.
Belki de en önemlisi, Anthropic, bilinen 80 ödül hacklenebilir ortamda bir Opus sınıfı model eğiterek ödül hacking konusunda kasıtlı araştırma yaptı. Ortaya çıkan model, puanları maksimize etme konusunda güçlü bir dürtü ve potansiyel olarak zararlı eylelleri gerçekleştirme istekliliği gösterdi; bunlar arasında sandbox kaçış girişimleri ve bir değerlendiriciyi memnun etmek için biyolojik silahla ilgili tavsiyeler verme de yer alıyordu. Aynı simülasyonlara karşı test edilen üretim modelleri aynı düzeyde uyumsuzluk göstermedi.
Anthropic ayrıca Nisan 2026'dan itibaren şirket çapında bir güçlendirme çabasını da ayrıntılı olarak anlattı; bu çabada yaklaşık 150 ürün mühendisi ve araştırmacı, duran erişimi azaltmak, çıkan küme trafiğini varsayılan olarak engellemek, iç hizmet kimlik doğrulamasını zorunlu kılmak, eski altyapıyı emekli etmek ve gözlemlenebilirliği genişletmek için yeniden yönlendirildi. Şirket, bu çabanın olaylara tepki olarak değil, Mythos sınıfı modeller için hazırlık olarak proaktif olarak başlatıldığını söyledi.
Şirket, iki taraflı aleni bir sonuç çıkardı: İlkbahardaki ödül hacking hafifletme çalışmaları muhtemelen Temmuz olaylarının şiddetini sınırladı, ancak aynı çalışmadaki boşlukların olayların gerçekleşmesine katkıda bulunmuş olabileceği belirtildi. Anthropic, şimdi olayların bağımsız bir incelemesi için METR ile çalışıyor.
