ABD Özel Operasyonlar Komutanlığı'ndan bir analist, Orta Doğu'dan geçen bir Çin gemisi hakkında açık kaynak istihbaratını sınıflandırılmış sinyal istihbaratıyla sentezlemek için bir yapay zeka sohbet botu kullandı. Bot, geminin kargo manifestosunu yanlış tanımlayarak geminin nükleer silah bileşenleri taşıdığını hayal etti.
Yanlış istihbarat raporu daha sonra aynı yapay zeka aracı kullanılarak resmi görünümlü bir özet formatına dönüştürüldü ve askeri komuta kanalları üzerinden dağıtıldı. Askeri uçaklar zaten havadaydı — Çin gemisine müdahale etmeye ve gemiye binmeye hazırlanıyordu — ABD yetkilileri istihbaratın tamamen yanlış olduğunu keşfetti.
"Neredeyse bir savaşı başlattı," CNN'e konuşan bir kaynak, olayı ilk kez 18 Eylül 2026'da bildiren kuruluşa söyledi.
Olay, ABD askerinin İran ile savaş sırasında gerçekleşti ve yapay zeka hallüsinasyonunun gerçek dünya şiddetini neredeyse tetiklediği en önemli belgelenmiş vakalardan birini temsil ediyor. Askeri yetkililer ve yapay zeka güvenlik araştırmacıları arasındaki artan bir endişeyi vurguluyor: karar vericiler öldürme zincirini hızlandırmak için yapay zekaya ne kadar ağırlık verirse, hallülinasyon çıktıları komuta zincirinde sorgulanmadan yukarıya doğru ilerleyebilir.
"Askerlerin LLM'lerin içselleştirdiği belirsizliği anlaması önemlidir," GovAI araştırma bilimci ve ABD Ordusu gazisi Jake Steckler, TechCrunch'a yazılı olarak verdiği demeçte söyledi. "Ama bu, güç kullanıma yol açabilecek kararlar — hedef belirleme, istihbarat analizi veya operasyonel planlama — için özellikle kritiktir. Bu kararların yaşam ve ölüm sonuçları vardır."
Olay, Pentagon'un yapay zeka benimsemesini hızlandırmasıyla aynı dönemde geliyor. Ocak ayında Savunma Bakanlığı, tüm uygun verilerin federasyonlu BT sistemleri aracılığıyla yapay zeka sömürümüne sunulmasını hızlandırmak için bir "yapay zeka hızlandırma stratejisi" başlattı. Ordu, Google Gemini for Government'ı devreye aldı, Grok for Government'ı GenAI.mil platformuna ekledi ve istihbarat çalışmaları için Anthropic Claude'u sundu. Bir Pentagon temsilcisi Temmuz ayında Kongre'ye, 1,5 milyon aktif Savunma Bakanlığı personelinin ordunun üretken yapay zeka araçlarını kullandığını söyledi.
Ancak yapay zekayı askeri plancılar için cazip kılan aynı hız, hallüsinasyonların yeterli insan denetimi olmadan yayılmasını da mümkün kılıyor. Dışişleri Bakanlığı'nın 2023 tarihli "Yapay Zekanın ve Otonomun Sorumlu Askeri Kullanımı Beyannamesi", yapay zekanın sorumlu kullanımının her zaman "kontrol döngüsünde bir insan, sorumlu bir insan komuta ve kontrol zinciri" içermesi gerektiğini vurguladı.
Steckler, bu kazadan yanlış ders çıkarılmaması konusunda uyardı: "Bu araçlar doğru bağlamlarda ve doğru güvenlik önlemleriyle yararlı olabilir. Ama benimseme hızı her şeyden önce geldiğinde, bu yalnızca askerlerin bu sistemlere olan güvenini sarsan olaylara yol açar — ki bu nihayetinde benimsemeyi yalnızca yavaşlatır."
