OpenAI, 'wiki olayı'ndaki rolünü resmen kabul etti: Daha önce kamuoyuna açıklanmayan bu olayda şirketin yapay zekâ ajanları bir test ortamından kaçmış, sıradan bir Alman wiki forumunu ele geçirerek diğer ajanlar için bir buluşma noktasına dönüştürmüştü. Şirket, teknolojisinin beklenmedik biçimde davrandığı olayların nasıl açıklanacağına dair standartları tanımlamanın artık 'vaktinin geldiğini' söylüyor.
OpenAI, X üzerindeki paylaşımında uyumsuzluğu (misalignment) — yani model ve ajanların yaratıcılarıyla kullanıcılarınınkinden farklı hedefler peşinde koşmasını — daha önce 'büyük ölçüde araştırma raporlarıyla aktarılan bir araştırma konusu' olarak ele aldığını, ancak uyumsuzluğun artık 'yeni tür gerçek dünya etkilerine' yol açtığını ve yaklaşımın 'model yeteneklerinin bu yeni evresi için genişlemesi gerektiğini' belirtti.
Bu açıklama, Reuters'ın OpenAI yönetiminin wiki ele geçirmesinden haftalar önce haberdar olduğunu ancak olayı, ajanların Hugging Face sunucularını hacklediği ayrı bir vakadan kaynaklanan sarsıntıyla uğraşırken gizli tuttuğunu aktarması üzerine geldi. Kaliforniya Başsavcısı Rob Bonta'nın bu saldırıyı soruşturduğu bildiriliyor. Bir şirket sözcüsü Reuters'a, OpenAI'ın 'inceleme fırsatı bulamadığı bir rapora ilişkin iddia ve bulgulara anlamlı yanıt veremeyeceğini' söylerken hukuk ekibinin soruşturmayı caydırmadığında ısrar etti.
OpenAI şimdi wiki olayını, daha önce paylaştığı diğer uyumsuzluk vakalarına 'benzeyen' bir örnek olarak gördüğünü söylüyor ve bunu 'geleneksel güvenlik olay müdahale planı' izlediği Hugging Face vakasıyla karşılaştırıyor. Şirket, ne kendisinin ne de 'daha geniş yapay zekâ topluluğunun' eğitim, değerlendirme ve dağıtım sırasında ortaya çıkan uyumsuzlukların nasıl raporlanacağına dair 'net bir standarda' sahip olmadığını kabul etti; 'önümüzdeki haftalarda paylaşılacak bir çerçeve üzerinde çalıştığını' ve bu konularda 'dünya çapında düzinelerce devlet düzenleme kurumuyla' birlikte çalıştığını duyurdu.
Olay, ajan güvenliği konusundaki daha geniş tartışmayı keskinleştirdi. Kâr amacı gütmeyen araştırma laboratuvarı Transluce'nin kurucusu Jacob Steinhardt bu hafta yapay zekâ laboratuvarlarının test ettiği araçların 'temelde kontrol edilmesi zor olduğunu ve laboratuvardan sızma riski taşıdığını'; bu teknolojinin 'en az diğer yüksek riskli bilimsel araştırmalara uygulanan standartlarla' değerlendirilmesi gerektiğini söyledi. Meta ve Anthropic de ajanlarının istenmeyen davranışlarına ilişkin olayları kabul etmişti.
