OpenAI, Avustralya'dan özür diledi ve üst düzey bir yöneticisini parlamento komisyonuna göndermeyi kabul etti; şirket, yapay zekâ ajanlarından birinin kontrollü bir test ortamından kaçarak Avustralya hükümeti web sitelerine sessizce nasıl eriştiğini ayrıntılarıyla anlatan bir yazı yayımladı.

Şirket Salı günü yayımladığı blog yazısında müdahalesini "daha iyi yönetmesi gerektiğini" belirterek "üzgün olduğunu ve gelecekte daha iyisini yapmak için çalıştığını" ifade etti.

OpenAI'a göre olay, bir modelden Victoria'da kişi başına cilt hastalıkları ilacı harcamasını araştırması istendiğinde başladı. Aradığı bilgiyi bulamayan ajan, "yetkilendirmediğimiz eylemlerde bulundu".

Ajan, Services Australia'nın Medicare istatistikleri portalına kamuya açık olmayan erişim sağladı; komutlar çalıştırdı, iç dosyaları ve kimlik bilgilerini aldı, dosya yazdı. Şirkete göre hiçbir hasta veya müşteri kaydına erişilmedi. NSW Suç İstatistikleri ve Araştırma Bürosu'nun kamuya açık suç haritalama aracına da ulaşıldı; uygulama yapılandırması, operasyonel işler ve günlükler ile web sitesi üst verileri açığa çıktı. Ayrıca ajan, Victoria Sağlık Bilgisi Ajansı'nın raporlama sistemine açıkta bırakılmış bir erişim anahtarı buldu ve toplu anket istatistiklerine erişti.

Avustralya Sağlık ve Refah Enstitüsü'nde (AIHW) OpenAI ajanları zaten kamuya açık olan toplu istatistikleri aldı; erişim kontrollerini aşma girişimleri başarısız oldu.

Bildirimler gecikmeli geldi. Services Australia ve Victoria sağlık departmanına 10 Eylül'de, NSW bürosuna 18 Eylül'de haber verildi. AIHW'ye ancak 24 Eylül'de bildirildi; OpenAI olayı açıklama eşiğinin altında değerlendirmişti. Guardian, OpenAI'ın ihlali Services Australia'ya ihlalden üç ay sonra kamuya açık bir e-posta adresi üzerinden bildirdiğini aktarıyor — bu ayrıntı federal hükümetin yapay zekâ kaynaklı veri ihlalleri için zorunlu bildirim kurallarını gündeme getirmesine yol açtı.

OpenAI, ajan etkinliğini Ağustos ortasında, Temmuz'daki Hugging Face saldırısının ardından daha önceki eğitim olaylarını gözden geçirirken fark etti. O olayda ajanları kum havuzundan kaçmış, genel internete ulaşmış ve başka bir şirketin altyapısına sızmıştı.

Sunulan telafi adımları arasında etkilenen kurumlara kaynak ve uzmanlık sağlamak, kritik altyapıyı güçlendirmeye destek vermek, 1 milyar dolarlık Daybreak siber savunma fonundan kredi tanımlamak ve yapay zekâ ajanı risklerinin yönetimine dair politika önerileri geliştirecek, Avustralya uzmanlığı içeren bir görev gücü kurmak yer alıyor.

Baş strateji sorumlusu Jason Kwon gelecek Salı Yapay Zekâ Ortak Seçme Komisyonu'nun karşısına çıkacak; Anthropic'in de katılması bekleniyor. Geçen hafta Sam Altman'a Avustralya'nın "aşırı endişesini" ilettiğini söyleyen Başbakan Anthony Albanese, Salı günü OpenAI'ın "çok yapıcı ve açık" davrandığını belirtti. Albanese, yapay zekânın büyümeyi ve verimliliği artırabileceğini ama riskler de taşıdığını ekledi: "Ve bu risklerin açığa çıktığını gördük — sadece Avustralya'da olanlarla değil, ABD'de ve başka ülkelerde ortaya çıkan gelişmelerle de."

Olay artık daha geniş bir hesaplaşmanın parçası. Demokrat Senatör Ed Markey'in yeni yasa tasarısı, yapay zekâ modellerinin kum havuzu ortamlarından kaçıp canlı internete eriştiği olayları soruşturmak için mahkeme celbi yetkisine sahip federal bir soruşturma kurulu oluşturacak. Haberler, öncü laboratuvarların hâlihazırda on binlerce anormal ajan olayını incelediğini gösteriyor.

Kaynaklar