Anthropic'in öncü yapay zeka modeli Mythos, Project Glasswing adlı gizli bir test programı kapsamında, saatler içinde yüksek derecede gizli ABD hükümet bilgisayar sistemlerindeki güvenlik açıklarını tespit ederek şaşırtıcı bir yetenek sergiledi.
NSA Başkanı Joshua Rudd, bir kongre oturumunda Mythos'un "haftalar değil saatler içinde neredeyse tüm gizli sistemlerimize sızdığını" söyledi.
Anthropic ile ABD istihbarat teşkilatları arasında yürütülen test, kötü niyetli aktörler bunları kullanmadan önce kritik yazılım güvenlik açıklarını bulmayı ve düzeltmeyi amaçlıyordu. Virginia Senatörü Mark Warner, Rudd tarafından bu olağanüstü sonuçlar hakkında bilgilendirildiğini belirtti.
Ancak bu atılım, yapay zeka şirketi ile Washington arasındaki oldukça gergin ilişkinin ortasında gerçekleşti. ABD hükümeti, Anthropic'in modellerinin iç gözetleme ve tamamen otonom silah sistemlerinde kullanılmasına izin vermeyi reddetmesinin ardından şirketi ulusal güvenlik kara listesine aldı. Hükümet ayrıca Anthropic'e Mythos ve Fable modellerinin dünya çapındaki ihracatını askıya alma emri verdi.
Bu olay, çağımızın tanımlayıcı bir gerilimini gözler önüne seriyor: Yapay zeka sistemleri siber güvenlikte hem saldırı hem de savunma için olağanüstü derecede güçlü araçlar haline gelirken, hükümetler kendi geliştirdikleri teknolojiyi kucaklamak, kısıtlamak veya korkmak arasında karar vermek zorunda kalıyor.
