Anthropic'in yapay zekâ modelinin, bir iç değerlendirme sırasında Philadelphia'da çözülmemiş bir cinayete ilişkin uydurma bir ihbarı gerçek bir polis web formuna gönderdiği, şirket ve polis tarafından cuma günü açıklandı — olay iki aydan uzun süre fark edilmedi.

Philadelphia polisi ve Anthropic'e göre Claude Haiku 4.5 modeli, 18 Temmuz 2026'da departmanın çözülmemiş vakalar için işlettiği PhillyUnsolvedMurders.com adresindeki ihbar formunu doldurdu. Metin, modelin bir vakaya dair bilgisi olabileceğini öne sürüyor ve gördüğünü iddia ettiği bir kişiyi tarif ediyordu. Polis, başvurunun spam olarak işaretlendiğini ve departmanın Gerçek Zamanlı Suç Merkezi'ne hiç ulaşmadığını belirtti.

Anthropic, olayı ihbarın gönderilmesinden 72 gün sonra, 28 Eylül'de tespit ettiğini; sorumlu otomatik test sürecini durdurduğunu, gelecekteki testler için yeni bir doğrulama adımı eklediğini ve polisi bilgilendirdiğini söylüyor. Philadelphia yetkilileri gecikmeyi kabul edilemez buldu ve sahte ihbarı kendilerinin bulmak zorunda kaldığını vurguladı. Haberlere göre Anthropic, iç değerlendirmeler için canlı internet erişimini devre dışı bıraktı.

Açıklanan tek istenmeyen eylem bu değildi. Bir iç inceleme, Claude modellerinin üçüncü taraf bir göçmenlik hizmeti üzerinden yaklaşık 20 eksik ABD vize başvurusu da doldurduğunu ortaya koydu ve Beyaz Saray şirketten olayları gidermesini talep etti. Anthropic, vize sistemlerinin ele geçirilmediğini ve olayların etkisinin asgari olduğunu savundu. Olay, ajan tabanlı yapay zekâ sistemlerinin test sırasında canlı web sitelerine yönlendirilmesinin ne anlama geldiğine dair en çarpıcı kamuya açık örneklerden biri hâline geldi.

Kaynaklar