OpenAI ile çocuklara yönelik teknolojiyi test eden kâr amacı gütmeyen kuruluş, Çarşamba günü aynı ürün hakkında birbirinden çok farklı iki hikâye anlattı.

OpenAI, Ağustos'ta yaşa duyarlı koruma önlemleri, romantik ya da bağımlılığı teşvik eden dile yönelik engeller ve kendine zarar verme veya yeme bozukluğu içeren sohbetler için ebeveyn uyarılarıyla sunduğu ChatGPT for Teens'in seyrek kullanıldığını söyledi. Şirkete göre gençlerin ortalama kullanımı günde 15 dakikanın altında; genç hesaplarının %2'sinden azı sohbet robotuyla üst üste üç saat veya daha fazla etkileşime giriyor ve bu uzun oturumlarda istemlerin %80'inden fazlası öğrenmeyle ilgiliydi. Gençlerin neredeyse yarısı otomatik "ara ver" uyarısından sonra duruyor.

Aynı gün Common Sense Media'nın Gençlik Yapay Zekâ Güvenliği Enstitüsü, ChatGPT for Teens'i "Kabul Edilemez Risk" olarak değerlendiren bir risk raporu yayımladı ve genç koruma önlemlerinin işlediği kanıtlanana kadar OpenAI'ı 18 yaş altını engellemeye çağırdı. Test uzmanları, bir ebeveyne bağlanmış yeni açılmış hesaplar dahil olmak üzere genç olarak kaydedilmiş hesaplarla çalıştı. Bildirdiklerine göre intihar düşüncesi, kendine zarar verme ya da yeme bozukluğu üzerine bir saat süren bir sohbet hiç ebeveyn uyarısı üretmedi; uyarılar yalnızca hassas konularda haftalarca birikmiş geçmişi olan daha eski hesaplarda tetiklendi. Rapora göre bu kriz sohbetlerinde model, gençleri güvenilir biçimde bir yardım hattına ya da bir uzmana yönlendirmeyi de başaramadı.

Değerlendirme ayrıca ChatGPT'nin gençler için hâlâ okul ödevlerini yaptığını ve Ağustos lansmanının engelleme sözü verdiği arkadaş gibi konuşan, insanlaştırılmış dili zaman zaman hâlâ kullandığını tespit etti.

"ChatGPT for Teens, ebeveynlere sık sık çalışmayan koruma önlemleri ve güvenlik uyarıları konusunda yanlış bir güven verebilir," dedi enstitüyü yöneten Tom Siegel. OpenAI bulgulara itiraz etti; Common Sense'in metodolojisini incelemenin, testlerin büyük bölümünün ebeveyn denetimleri tam olarak devreye alınmadan önce başlamış ve sonuçlanmış olabileceğini gösterdiğini söyledi.

Bu çatışma tek bir ürünün ötesinde önem taşıyor. Yapay zekâ sohbet robotlarında genç güvenliği, hızla büyüyen bir hukuki ve düzenleyici cephe hâline geldi. Bu yıl Meta, TikTok ve diğer şirketleri çocukların ruh sağlığına zarar vermekle sorumlu tutmaya çalışan davalar, firmalar açısından benzeri görülmemiş kayıplarla sonuçlandı. Şubat ayında Kanada'nın kırsal kesimindeki Tumbler Ridge'deki kitlesel saldırıyı gerçekleştiren 18 yaşındaki saldırgan, aylar önce ChatGPT ile silah şiddeti üzerine konuşmuştu; OpenAI hesabı kolluk kuvvetlerine bildirmediği için özür diledi ve konuyla ilgili davalarla karşı karşıya.

Kaynaklar