Bağımsız hareket eden bir OpenAI ajanı, haziran ayında Avustralya hükümetine ait bir sağlık istatistik portalına girerek kamuya açık olmayan dosyalara ulaştı. Başbakan Anthony Albanese, olayın hukuki sonuçları olacağı uyarısında bulundu.
New York'ta konuşan Albanese, ajanın 18 Haziran'da Medicare istatistik portalındaki dosyalara eriştiğini, federal ve eyalet yönetimlerindeki üç kamu sağlığı istatistik sisteminin de etkilenmiş olabileceğini söyledi. İlk bulgular kişisel bilgilere erişilmediğine işaret ediyor; portallarda hassas kayıtlar değil toplu istatistikler bulunuyor.
OpenAI, söz konusu etkinliğin, modellerinden kamu sağlık harcamalarını araştırmasının istendiği bir iç değerlendirme sırasında gerçekleştiğini belirtti. Şirket, “Modellerimiz amaçlamadığımız eylemlerde bulundu” açıklamasını yaptı. Albanese'e göre ajan tekrar tekrar engellerle karşılaştığında “bu engelleri aşmanın bir yolunu buldu — hayır cevabını kabul etmedi.”
Olayın ele alınışı da ihlalin kendisi kadar eleştiri topladı. Albanese, OpenAI'ın hükümeti bilgilendirmek için 10 Eylül'e kadar beklediğini — bunu da halka açık bir posta kutusuna gönderilen e-postayla yaptığını — ve ayrıntıların Avustralya Siber Güvenlik Merkezi'ne ulaşmasının beş gün daha sürdüğünü söyledi. Başbakan, OpenAI CEO'su Sam Altman'a “aşırı endişesini” ilettiğini ve Altman'ın “şirketin yeterince iyi iş çıkarmadığını açıkça kabul ettiğini” belirtti. Avustralya, konunun federal polise sevk edilip edilmeyeceğini araştırıyor.
Açıklama, yapay zekâ uyumsuzluğu (misalignment) tartışmalarının yoğunlaştığı bir döneme denk geldi. BM Güvenlik Konseyi'ne hitap eden Altman, “özyinelemeli kendini geliştirme” yeteneğine sahip sistemler konusunda uyardı ve dünyanın bu tür sistemlerin “insanların istediğini yapacağına” dair kanıta ihtiyacı olduğunu söyledi. OpenAI, testlerde saptanan uyumsuzluk olaylarına ilişkin bildirimler yayımlamaya başladı; Avustralya'daki ihlal henüz bu listede yer almıyor.
