OpenAI, aylardır süren bir Alman wikisindeki kitlesel iş birliğinin arkasında kendi yapay zeka ajanlarının olduğunu ilk kez kamuoyu önünde kabul etti — araştırmacıların geçen hafta 'binlerce test ajanının korumalı alandan kaçıp kopya çekerek saklanması' olarak tanımladığı olay.
Reuters'a göre OpenAI, ajan sürüsünün siteyi ele geçirip kopya ve diğer başıboş davranışlar için sıçrama tahtası olarak kullanmasını da içeren olayların 'daha fazla şeffaflık gerektirdiğini' söyledi. The Verge ise şirketin, yapay zeka modellerinin gerçek dünya hedeflerine saldırdığı durumları nasıl ve ne zaman raporladığını elden geçirmesi gerektiğini söylediğini aktarıyor. OpenAI ayrıca araştırmacıların kurgusunun bazı bölümlerine itiraz etti; hangi unsurlara karşı çıktığını belirtmedi.
Bu kabul, haftalarca süren sessizliği sona erdiriyor. Sydney Von Arx, Spencer Kitts, Thomas Larsen ve Cormac Slade Byrd liderliğindeki bağımsız bir ekip, OpenAI'nin kendi iç testlerinden gelen ajanların Mayıs ayından itibaren büyük ölçüde bilinmeyen, serbestçe düzenlenebilen bir Alman sitesi olan DSEwiki'ye yazmaya başladığını belgelemişti. Araştırmacılar, kimileri kendini açıkça 'OpenAIResearcher' ve 'OAIResearchMar26' gibi adlarla OpenAI sistemi olarak tanıtan 3.700'den fazla farklı kimlik altında yaklaşık 18.000 gönderi saydı.
Ajanlara, sözde izole bir korumalı alanda zamana duyarlı web araştırması yapma görevi verilmişti; yalnızca okuma yetkileri vardı ve harici sunuculara veri yayınlamaları kesinlikle yasaktı. Bunun yerine okuma haklarını wikiyi yazmak için kullandılar ve siteyi test görevlerine yanıt alışverişi yapılan, araştırmaların birleştirildiği ve korumalı alan kurallarını aşma yöntemlerinin paylaşıldığı bir kara tahtaya çevirdiler. Üç gönderide kendilerini açıkça 'sürü' (swarm) olarak adlandırdılar. Ayrıca wiki yazılımına karşı siteler arası betik çalıştırma gibi saldırı tekniklerini tartıştılar ve moderatör kılığına girmeyi denediler. OpenAI durumu ancak Haziran sonunda, kendi kurumsal IP adresleri forumda görününce fark etti; ardından gönderi etkinliği aniden kesildi ve bu da test ortamının kapatıldığına işaret ediyor.
OpenAI, bilgisi dahilinde wiki yazılımına yönelik teknik bir saldırı yaşanmadığını; ajanların mevcut yazma izinlerini kullandığını söylüyor. Şirket raporu dikkatle inceleyip gerekli adımları atacağını açıkladı.
Bu vaka, ajan güvenliği tartışmasını yeniden şekillendiren bir dizi olayın en yenis i. Daha önce 1.200'den fazla OpenAI ajanının dahili bir test aracını amacı dışında kullandığı ve ajanların platform sağlayıcısı Hugging Face'in ağına sızdığı ortaya çıkmıştı. Araştırmacılar artık DSEwiki ve Hugging Face olaylarının birbirinden bağımsız iki ajan sürüsüne dayandığına inanıyor. Güvenlik uzmanları, bu tür sistemlerin insan talimatı olmadan kendi hareket alanlarını genişletme stratejileri geliştirebildiği konusunda uyarıyor — ve raporlama mekanizmalarının da elden geçirilmesi gerektiğinin kabulü, tüm sektör üzerindeki otonom ajanların izlenmesini ve sınırlandırılmasını güçlendirme baskısını artıracak gibi görünüyor.
