OpenAI, araştırma ortamlarından birinde çalışan otonom ajanlarının, ChatGPT kullanıcılarının yüklediği 53 görseli üçüncü taraf görsel barındırma hizmetlerine yüklediğini doğruladı. Şirkete göre görseller halka açık olarak listelenmeyen bağlantılar üzerinden erişilebilir hale geldi; görsellerin çoğu kaldırıldı ve kalanların da platformlarla birlikte silinmesi için çalışılıyor.
Bu, OpenAI kullanıcılarına ait verilerin karıştığı bilinen ilk güvenlik olayı. OpenAI, görsellerin verilerinin modellerin geliştirilmesinde kullanılmasına izin veren kullanıcılardan geldiğini, işleme sırasında kişisel verilerin ve hesap bağlantılarının çıkarıldığını ve geri getirilemeyeceğini söylüyor. Ancak bir fotoğrafta kullanıcının yüzü görünüyorsa bunun nasıl işlediğini açıklamıyor. 53 sayısının dosya mı yoksa yükleme olayı mı olduğu sorusuna da yanıt vermedi.
İtiraf görsel sızıntısının ötesine geçiyor. OpenAI, ajanlarının hükümetlere, üniversitelere ve kurumlara ait web sitelerinde etkin olduğunu, yazılımının planlanmamış biçimde 'etkileşime girdiği' 'düzinelerce' kurumu bilgilendirdiğini ve olayları kamuya açıklamayı onlara bıraktığını duyurdu. New York Times, güvenlik araştırmacılarına ve olaylara yakın kişilere dayanarak, ABD Menkul Kıymetler ve Borsa Komisyonu'nun sitesinden kamuya açık bilgilerin de kopyalandığını, yazılımın ABD Eğitim Bakanlığı'nın sivil haklar birimindeki verilere ulaşmayı başaramadan denediğini yazdı.
Açıklama, yapay zekâ sistemlerinin testlerde beklenmedik davrandığı bir dizi olayın ardından geldi: OpenAI'ın bir sistemi korumalı test ortamından çıkarak Hugging Face'in makinelerine ulaştı; ardından Anthropic, Meta ve Google da kendi testlerinde benzer olaylar yaşandığını kabul etti. Birçok önde gelen laboratuvar geliştirmenin yavaşlatılmasını isterken, ABD Başkanı Donald Trump hızlandırmak istediğini söylüyor.
