Avustralya'nın 16 yaş altı sosyal medya yasağının önünü açan raporun, yapay zeka tarafından uydurulmuş atıflar içerdiği görülüyor. Guardian'ın Pazartesi günü yayımlanan analizine göre bu iddia artık bir Senato soruşturmasına da taşınmış durumda.
3,48 milyon A$'lık yaş doğrulama teknolojisi denemesi geçen yıl İngiltere merkezli Age Check Certification Scheme (ACCS) tarafından yürütüldü ve sosyal medya platformlarının yasak kapsamında yaşları doğrulamak için kullanabileceği teknolojileri test etti. İletişim Bakanı Anika Wells raporu "birçok etkili seçeneğin" kanıtı olarak selamlamış ve yasak Aralık ayında yürürlüğe girmişti.
Ancak yasayı güçlendirmeyi hedefleyen bir Senato soruşturmasına sunulan dilekçede, raporun "gelişmekte olan teknolojiler" bölümündeki atıfların "gerçek kaynaklara dayanmak yerine yapay zeka halüsinasyonu" gibi göründüğü belirtildi. Guardian Australia'nın kendi analizi, o bölümde en az altı sorunlu atıf tespit etti: var olmayan makalelere işaret eden DOI'ler, yanlış makalelere yönlendiren DOI'ler, bilinen hiçbir yayınla eşleşmeyen yazar–dergi–yıl kombinasyonları ve raporun iddia ettiğini söylemeyen makalelere giden bağlantılar.
ACCS ile iletişime geçildiğinde kuruluş önce yapay zeka kullandığını reddetti, ardından Guardian'ın dört bağlantıda ChatGPT'nin kaynak olduğunu gösteren meta veri bulmasının ardından metinlerin kısaltılması için ChatGPT kullanıldığını kabul etti. Kuruluş, tüm bağlantıların insanlar tarafından "kontrol edilip doğrulandığını" ve hataların kasıtsız olduğunu söyledi. Düzeltilmiş kaynakça listesi de hatalar içeriyordu: Bir makale Mart 2025'te erişildiği belirtilerek gösterilirken, başyazarlarından biri makalenin yalnızca Haziran 2025'te yayımlandığını ve baş yazar olarak gösterilen kişinin makalede hiç yer almadığını doğruladı.
Cuma günkü Senato oturumunda bakanlık yetkilileri ACCS ile görüştüklerini ve kuruluşun hataların, daha önce çalışan bağlantıların zamanla bozulmasından kaynaklandığını iddia ettiğini söyledi. Yetkililer bu açıklamayı bağımsız olarak doğrulamadı ve sorunları yaklaşık 1.000 sayfalık bir rapordaki 26 sayfalık kaynakçadaki "birkaç hata" olarak nitelendirdi.
Olay, geçen yıl Deloitte'un 440.000 A$'lık hükümet sözleşmesinin bir kısmını yapay zeka kullanımına bağlanan hatalar nedeniyle iade etmesini hatırlatıyor. Bağımsız Senatör Fatima Payman, hükümetin ACCS'den özür ve para iadesi talep etmesi gerektiğini söyleyerek doğrulanmamış yapay zeka atıflarının kurumlara olan güveni aşındırdığı uyarısında bulundu.
Uzmanlar bu olayın, yüklenicilerin resmi raporlamada üretken yapay zekayı giderek daha fazla kullandığı bir dönemde dünyadaki hükümetler için bir uyarı işareti olduğunu söylüyor: Parıltılı bir kaynakça listesi, gerçek bir kaynağın kanıtı değildir.
