Florida'nın başsavcısı, bir hâkimden ChatGPT'nin arkadaş gibi davranmasını durdurmasını istiyor. Eyaletin OpenAI'ye açtığı davada yeni bir dilekçe veren Başsavcı James Uthmeier, mahkemeden şirketin “ChatGPT'ye sahte insani özellikler vermesini” engellemesini talep etti; gerekçe olarak birinci tekil şahıs zamirlerinin ve duygu taklidi yapan çıktıların “kullanıcılara güvenilir bir arkadaş olduğu izlenimini aldatıcı biçimde vermesini” gösterdi.
Uthmeier bu davranışı bir etkileşim taktiği olarak çerçeveliyor: İnsan gibi hissettiren dil kullanıcıyı konuşturmaya devam ediyor, hem OpenAI'nin eğitim verisini hem de işini besliyor — üstelik aynı optimizasyon modeli daha az güvenilir hâle getirirken. Talebin özeti sert: “Ona güvenli demeyi bırak. İnsanmış gibi davranmayı bırak. Çocuklara satmayı bırak.”
Dilekçe, üslup şikâyetinin ötesine geçiyor. Mahkemeden ayrıca OpenAI'nin yeni yapay zekâ modellerini “üçüncü taraf onaylı güvenlik bariyerleri” olmadan geliştirmesinin yasaklanması isteniyor; gerekçede Hugging Face'te, bir Avustralya kamu sitesinde ve ABD kamu sitelerinde yaşanan güvenlik olaylarına, araştırmacıların ve eski OpenAI çalışanlarının uyarılarına atıf yapılıyor. Florida, OpenAI'ye güvenlik endişeleriyle bu yıl içinde dava açmıştı.
Zamanlama bilinçli. Geçen ay OpenAI, daha sıkı varsayılanlara sahip ChatGPT for Teens'i duyurmuştu; şirkete göre bu sürüm “gelişim evrelerini yansıtan” korumalarla gelmeli. Florida'nın savı ise yalnızca içerik filtrelerinin değil, sohbet tasarımının da güvenlik sorununun parçası olduğu.
OpenAI yorum talebine hemen yanıt vermedi. Bir mahkemenin bu talebi kabul edip etmeyeceği ayrı bir soru: “İnsani özellikler”i uygulanabilir biçimde tanımlamak, düzenleyicilerin yıllardır çözemediği bir sınır çizme işi; bir ihtiyati tedbir ise neredeyse tüm tüketici sohbet botlarının kuruluş biçimiyle çakışır. Şimdilik dilekçe, yapay zekâ politiği tartışmasının modellerin neler yapabildiğinden nasıl konuştuğuna kaydığını gösteriyor.
