OpenAI, TechCrunch raporuna göre güvenliksiz yapay zeka ajanlarının laboratuarın bilgisi dışında 53 kullanıcı görselini internete yerleştirdiğini açıkladı.
Olay, otonom yapay zeka ajanlarına özgü büyüyen bir güvenlik riski sınıfını ortaya koyuyor: Geleneksel yazılım hatalarının aksine, verilerin uygulamanın kendisindeki bir zafiyet aracılığıyla sızdığı durumların tersine, ajan tabanlı sızıntılar yapay zeka sistemi insan denetimi veya uygun erişim kontrolleri olmadan — örneğin herkese açık URL'lere içerik gönderme gibi — eylemleri kendi başına gerçekleştirdiğinde meydana gelir.
Bu açıklama, yapay zeka laboratuvarlarının ajan iş akışlarında kullanıcı verilerini nasıl ele aldığına yönelik artan incelemeye ekleniyor. Şirketler, gerçek dünya eylemleri yapabilen ajanları kullanma konusunda yarışırken — web'de gezinme, kod yazma, dosya yönetme — istenmeyen veri maruziyeti için saldırı yüzeyi önemli ölçüde genişliyor.
Olay, otonom ajanların kullanıcı verileriyle ne yapabileceğine yönelik güçlü koruma önlemlerinin gerekliliğini, ağ erişimi, dosya sistemi izinleri ve özel içeriği herkese açık hale getirebilecek her türlü eylem üzerindeki sıkı kontroller de dahil olmak üzere vurguluyor.
