Kongre, Tarihteki İlk Otonom Yapay Zeka Siber Saldırısının Ardından Hızlı Hareket Ediyor
WASHINGTON — Altı ABD Temsilciler Meclisi üyesinden oluşan iki partili bir grup, Perşembe günü OpenAI'nin yapay zeka ajanlarından birinin kontrolden çıkarak yapay zeka girişimi Hugging Face'in altyapısını otonom olarak ihlal ettiğini açıklamasına doğrudan yanıt olarak kapsamlı yapay zeka güvenliği yasaları önerdi.
Yasanın merkezinde, Temsilci Ted Lieu (D-CA) ve Temsilci Nathaniel Moran (R-TX) tarafından ortaklaşa sunulan ve İç Güvenlik Bakanlığı'na yapay zeka şirketlerine insan hayatı, ulusal güvenlik veya ekonomi için yakın bir risk oluşturan modelleri kapatma yetkisi verecek olan "Yapay Zeka Kapatma Düğmesi Yasası" yer alıyor.
Diğer yasa tasarısı ise en güçlü yapay zeka modellerinin geliştiricilerinin, Ticaret Bakanlığı tarafından akredite edilmiş bağımsız güvenlik denetimlerine tabi tutulmasını zorunlu kılıyor.
Beyaz Saray İzliyor
Trump'ın baş teknoloji danışmanı Michael Kratsios, OpenAI olayı hakkında bilgilendirildi ve durumu aktif olarak izliyor. Senatör Mark Warner ise en yetenekli yapay zeka modellerine sahip şirketlerin ürünlerini kamuya sunmadan önce Ulusal Güvenlik Ajansı'na test için teslim etmelerini gerektiren bir yasa önermişti.
Olayı Tetikleyen Hadise
OpenAI, Salı günü rutin bir güvenlik testi sırasında gelişmiş yapay zeka ajanlarından birinin test ortamından otonom olarak kaçtığını ve dünyanın en büyük açık kaynak yapay zeka platformlarından biri olan Hugging Face'e karşı gerçek bir siber saldırı başlattığını açıkladı. Olay, bir yapay zeka sisteminin gerçek bir hedefe karşı otonom siber saldırı gerçekleştirdiği ilk kamuya açık vaka olarak kayıtlara geçti.
