Çin'in insansı yapay zekaya ilişkin çığır açan düzenlemelerinin yürürlüğe girmesine iki gün kala, ülkenin en büyük teknoloji şirketleri insansı sohbet botlarının fişini çekmeye başladı.
ByteDance ve Alibaba, 15 Temmuz son teslim tarihinden önce, kendi Doubao ve Qwen platformlarında özel, insansı yapay zeka ajanları oluşturma özelliklerini devre dışı bırakıyor. Bu önleyici uyum eylemleri, Çin'in "Yapay Zeka Antropomorfik Etkileşimli Hizmetlerin Yönetimi için Geçici Önlemleri"nin yürürlüğe girmesiyle, duygusal bağ için tasarlanmış halka açık yapay zeka sistemlerine dünyanın ilk kapsamlı kısıtlamalarını getirmesiyle gerçekleşiyor.
Yeni düzenlemeler, "gerçek kişilerin kişilik özelliklerini, düşünce kalıplarını ve iletişim tarzlarını simüle eden sürekli duygusal etkileşim" sunan, Çin'de halka açık yapay zeka hizmetleri için geçerli. Kurallar, hizmet sağlayıcılarının yapay zeka etkileşimlerini makine tarafından oluşturulmuş olarak açıkça etiketlemesini gerektiriyor.
Özellikle, Önlemler platformların duygusal bağımlılık veya bağımlılık oluşturmasını, kullanıcıları manipüle etmesini veya reşit olmayanlara sanal yakın ilişkiler sunmasını yasaklıyor. Düzenlemeler ayrıca kendine zarar vermeyi yücelten içerikleri de yasaklıyor.
Dikkat çekici bir şekilde, kurallar kurumsal uygulamalar için net bir istisna sağlıyor. Önlemler, bu sistemlerin sürekli duygusal etkileşimde bulunmaması koşuluyla, müşteri hizmetleri botları, dahili iş yeri asistanları veya eğitim ve araştırma araçları dahil olmak üzere işletmeler arası yapay zeka için açıkça geçerli değil.
ByteDance'ın Doubao'su — Çin'in en popüler yapay zeka sohbet botu — kullanıcıların kendi yapay zeka kişiliklerini özelleştirmesine izin veren bir özelliği kapattı. Alibaba'nın Qwen'i ve diğer büyük yapay zeka platformları da benzer önlemler alıyor.
Düzenlemeler, yapay zeka sohbet botlarının insan kişiliklerini simüle etmesi ve kullanıcıların onlarla oluşturduğu duygusal bağlar hakkında artan endişelerden ortaya çıkıyor.
Çin'in hamlesi, küresel yapay zeka yönetişiminde yeni bir aşamaya işaret ediyor: duygusal yapay zeka ürünlerini genel yapay zeka güvenliği kuralları yerine belirli yasaklar gerektiren ayrı bir düzenleyici kategori olarak ele alan ilk büyük yargı bölgesi.
