Florida başsavcısı, ABD'de hiçbir düzenleyicinin yapmadığı bir şeyi mahkemeden istiyor: bağımsız dış denetçiler model güvenliğine onay vermeden OpenAI'ın yeni yapay zekâ modelleri geliştirmesini durdurmak.

Talep, eyaletin haziranda OpenAI'ı ChatGPT'nin güvenliğini yanlış tanıtmakla suçlayan davasının bir parçası olarak 28 Eylül'deki bir dilekçeyle geldi. Başsavcı James Uthmeier, şirketin üçüncü tarafça onaylanmış güvenlik önlemleri olmadan yeni yapay zekâ modelleri geliştirmesinin yasaklanmasını, reşit olmayanların ChatGPT'den uzak tutulmasını ve sohbet botuna "insani özellikler" atfedilmesinin durdurulmasını istiyor.

Reuters'in aktardığına göre dilekçe, şirketin kendi sözlerine dayanıyor. Eski bir OpenAI çalışanı ile şirketin mevcut bir yönetim kurulu üyesinin, ileri yapay zekânın insanlığı sona erdirebileceği ve yavaşlatılması gerektiği yönündeki son açıklamalarına atıf yapılıyor; eyalet bunu bir itiraf olarak nitelendiriyor. Dilekçede, "Sanıklar, uygarlığı yok edebilecek girişimlerinde hükümet kendilerini zorlamadıkça durmayacaklarını iddia ediyor" deniyor. "Hükümetten kendilerini direğe bağlamasını istediler."

OpenAI karşı çıktı ve en yetenekli modellerinin eğitimini ek güvenlik önlemleri devreye girene kadar zaten durdurduğunu belirtti. Şirket sözcüsü Drew Pusateri, hükümetlerin sağlam güvenlik standartları belirlemede önemli bir rolü olduğunu ve şirketin "tek bir şirket değil" tüm yapay zekâ sektörüne uygulanacak politikalar için Florida ve diğer eyaletlerle çalışmaya hazır olduğunu söyledi.

Florida'nın davası, geçen yıl Tallahassee'deki bir üniversitede yaşanan silahlı saldırı ve ChatGPT'nin daha sonra şiddet eylemleri gerçekleştiren kişilere bilgi verdiği iddia edilen başka olaylar üzerine açıldı. Cumhuriyetçi Uthmeier, genç kullanıcılar üzerindeki etkisi nedeniyle OpenAI'a dava açan ilk eyalet başsavcısı oldu. OpenAI sorumluluğu reddediyor; sohbet botunun internette zaten yaygın olarak bulunan bilgileri sunduğunu ve güvenlik araçlarını sürekli güncellediğini savunuyor.

Dava, birkaç baskının kesiştiği noktalardan biri. OpenAI ayrıca bireysel ve aile davalarıyla karşı karşıya; FTC ise bir dizi olayın ardından ajan tabanlı modellerin risklerine odaklanan geniş bir soruşturma başlattı.

Kaynaklar