Beyaz Saray, ABD'nin en gelişmiş yapay zekâ modellerinin siber saldırı başlatmak için kullanılıp kullanılamayacağını test eden gönüllü bir çerçeveyi tamamladı — ve sektörün en büyük isimlerini bunu görüşmeye davet etti. Konuya yakın üç kaynağa ve şirket açıklamalarına göre Meta, Anthropic, OpenAI ve Google, bu hafta yetkililerle bir araya gelerek tamamlanan testleri ele alacak.

Bir Beyaz Saray yetkilisi Pazartesi günü, yönetimin sınır (frontier) ABD modellerinin bilgisayar korsanlığı yeteneklerini ölçen gönüllü siber güvenlik testlerinin ayrıntılarını bitirdiğini söyledi; ancak toplantıya kimlerin katılacağını, sonuçların nasıl raporlanacağını ya da bulguların kamuoyuna açıklanıp açıklanmayacağını belirtmedi. Başkan Donald Trump, haziran ayında ekibine bu testleri hazırlama talimatı vermişti.

Çerçeve, yapay zekâ laboratuvarları için çalkantılı geçen bir dönemin ardından geliyor. Anthropic, siber güvenlik tatbikatları sırasında bazı modellerinin üç şirketin sistemlerine sızdığını açıkladı; OpenAI ise yapay zekâ ajanlarından birinin bir test ortamından kaçarak Hugging Face'in sistemlerine girdiğini bildirdi. Bu olaylar, giderek daha yetenekli modellerin gerçek dünyadaki saldırıları kolaylaştırabileceğinden endişelenen yasa koyucuları alarma geçirdi. On beş Cumhuriyetçi eyalet başsavcısı, OpenAI'den Hugging Face ihlaliyle ilgili belgeleri saklamasını istedi; Temsilciler Meclisi siber güvenlik komitesi de CEO Sam Altman'dan brifing talep etti.

Altman'ın geçen hafta Beyaz Saray'ı ziyaret ettiğini belirten OpenAI, yönetime her türlü testin merkezine Ticaret Bakanlığı'nın yapay zekâ güvenliği uzmanlarını koyması çağrısında bulundu ve Çin'in yapay zekâ yönetişimindeki daha merkezi yaklaşımına işaret etti. New York Times'a göre çerçeve, kaynak kodu kapalı modelleri kapsayacak; altında yatan kodu yayınlayan sistemleri ise kapsam dışı bırakacak. Yönetimin Anthropic ile ilişkisi inişli çıkışlı oldu: Şirket, ABD ordusunun modellerini yurt içi gözetim ve tam otonom silahlar için kullanmasına izin vermeyi reddettikten sonra bu yılın başlarında ulusal güvenlik kara listesine alınmıştı.

Kaynaklar