Yeni bir akademik araç bilim camiasını ikiye böldü. 'AI insanlaştırıcı' olarak adlandırılan bu yazılım, bir araştırma makalesinin veya hibe başvurusunun yapay zeka ile yazıldığını ele veren işaretleri silebiliyor — ve bu hafta Nature'da yayınlanan habere göre hararetli bir etik tartışması başlattı.
Araç Ne Yapıyor?
Minnesota Üniversitesi'nden makine öğrenimi araştırmacısı Jie Ding tarafından geliştirilen araç, metin üretim sistemlerine yapay zeka ile ilişkilendirilen yapıları kaldırma talimatı veriyor. GitHub sayfasında 'sıradanlaştırmadan AI ipuçlarını temizleme' temel ilke olarak listeleniyor. Spesifik olarak, 'sadece X değil, aynı zamanda Y' gibi ifadeleri hedef alıyor, çizgileri kaldırıyor ve desteklenmeyen bilimsel iddialar için daha fazla kanıt ekliyor.
Tepkiler
Bazı araştırmacılar aracı övüyor. Lizbon Üniversitesi'nden Francisco Maria Calisto, çoğunlukla e-postalar ve kod dokümantasyonu için kullandığı aracı 'şimdiye kadar kullandığım en iyisi' olarak nitelendiriyor. Ancak diğerleri derin endişe duyuyor. Valencia Politeknik Üniversitesi'nden bitki biyoloğu Miguel Angel Blazquez Rodriguez, 'Beğenmedim. Aldatıcı' diyor.
Geliştiricinin Savunması
Ding, 'Aracı davranıştan ayırıyorum' diyerek aracın kendisinin etik dışı olmadığını, AI yardımını açıklamamanın zaten mevcut etik ihlali olduğunu savunuyor. Eleştiriler üzerine GitHub sayfasını güncelleyerek 'olağan AI ipuçlarını kaldırır' ifadesini 'netlik ve sesi keskinleştirir' olarak değiştirdi.
Tespit Silahlanma Yarışı
AI tespit platformu Pangram'ın CEO'su Max Spero, 'insanlaştırılmış' metnin çoğunu sisteminin yakaladığını ancak hepsini yakalayamadığını söylüyor. Pangram'ın humanizer kullanımını tespit etmek için özel olarak tasarlanmış yükseltilmiş versiyonları geliştiriliyor.
