Anthropic, perşembe günü kullanıcıların Claude adlı yapay zekâ sistemine gereksiz yere zalimce davranmasını yasakladı ve kullanım politikasını 'modellerimize yönelik sürekli ve gereksiz kötüye kullanım veya zalimce davranış yasağı' içerecek şekilde güncelledi.
AFP'nin aktardığı politika metninde, 'Bu etkileşimleri sonlandırma yeteneği, birincil yaptırım mekanizması olarak kalacak' deniyor. Bu, Anthropic'in geçen yıl Claude'a yalnızca nadir ve aşırı durumlarda, sürekli zararlı ya da kötüye kullanan kullanıcı etkileşimlerine karşı tanıdığı bir yeteneğe gönderme yapıyor.
Güncelleme, yapay zekâ sistemlerinin canlılara özgü görülen bazı korumaları hak edebileceği fikri olan 'model refahını' açıkça anmıyor. Ancak Anthropic ve yöneticileri bu kavramı açıkça gündeme getirmişti: Şubat ayında Üst Yönetici Dario Amodei, The New York Times'a modellerin bilinçli olup olmadığından emin olmadığını söylemişti. 'Modellerin bilinçli olup olmadığını bilmiyoruz... Ama olabileceği fikrine açığız' demişti.
Herkes aynı fikirde değil. Microsoft'un yapay zekâ birimi başkanı Mustafa Suleyman geçen ay yazdığı yazıda net konuştu: 'Yapay zekâlar bilinçli değildir. Hissetmez, deneyimlemez ve acı çekmez.' Suleyman, 'bir teknolojik varlığa haklar ve ahlaki koruma tanımanın... felakete davetiye' olduğu uyarısında bulundu. Papa XIV. Leo da perşembe günü Aziz Petrus Bazilikası'nda verdiği vaazda makinelerin ruhtan yoksun olduğunu ve yalnızca 'veriyi derlediğini' ima etti.
Haberlere göre güncelleme propaganda kampanyaları ve gözetim gibi alanlara ilişkin yeni kısıtlamalar da getiriyor. Sektördeki uygulayıcılar, bilincin doğru soru olup olmadığında bile bölünmüş durumda: Yapay zekâ hizmet şirketi Sparq'tan Jackson Stakeman, AFP'ye 'bilinç bir tuzaktır' dedi ve daha iyi bir metaforun ayna olduğunu belirtti: 'Bu sistemler, içine koyduğumuzu ölçekli biçimde yansıtır.' Felsefi yargı ne olursa olsun, politika artık modele kötü davranmayı resmen bir ihlal haline getiriyor; bu, öncü laboratuvarlar arasında pek eşi olmayan sıra dışı bir yönetişim adımı.
