Anthropic, yapay zeka politikasının en dolambaçsız sayısını lobi ağırlığının merkezine koymuş görünüyor: elli.
Şirket, milletvekillerine, bir modelin devreye alınması sonucunda elli veya daha fazla kişinin ölebileceği durumlarda o modelin engellenmesine izin verecek bir güvenlik yasa tasarısı öneriyor; TechCrunch bu hafta böyle bildirdi. Bir kıyaslama puanı değil. Kayan nokta işlemleriyle sayılan bir hesaplama eşiği değil. Adı iki kez açıklanmak zorunda kalan bir yetenek değerlendirmesi hiç değil. Ölümler henüz yaşanmadan yasaya yazılan bir can kaybı sayısı.
Bu, ilk bakışta göründüğünden hem daha tuhaf hem daha hesaplı bir tercih.
Üç yıldır yapay zeka düzenlemesi tartışması ölçüm sorusunda tıkandı. Hesaplama eşikleri, çizginin nereye düşeceği ve kimin sayacağı üzerine bir lobi savaşına dönüştü. Kıyaslama puanları aylar içinde eskiyor ve testi en iyi hedefleyen kazanıyor. Yetenek değerlendirmeleri — bu model birinin biyolojik silah geliştirmesine gerçekten yardım edebilir mi — doğru soru ve sertifikalandırılması en zor olan şey; çünkü dürüst yanıt genellikle geniş hata payı olan bir olasılıktır ve onu kendi ödevini notlayan bir laboratuvar üretir.
Zarar eşiği yükü yerinden oynatıyor. Tasarı, modelin soyut olarak ne yapabildiğini değil, yaparsa ne olacağını soruyor. Havacılık sertifikasyonu ve ilaç ruhsatlandırması zaten böyle işliyor: 'bu güvenli mi' değil, 'kalan risk belirtilen düzeyin altında mı' — ve kalemi üretici değil düzenleyici tutuyor.
Asıl işi yapan kelime 'ölebileceği'. Elli kişi, kimin değerlendirmesiyle, hangi kanıtla, hangi güven düzeyinde? Devreye almadan önce kapı koymak, yanıtı model ölçekte hiç çalıştırılmadan önce istemek demek; olay sonrası tetikleyici ise önce elli cenaze ister. Tasarının kavga edileceği yer bu iki okuma arasındaki boşluk; iyi niyetli bir maddenin ya işlemez bir veto ya da bir mezar taşına dönüşeceği yer de burası.
Bir de 'engellemenin' ne demek olduğu var. Verilmeyen bir ruhsat başka bir şey; bin sunucuda kopyası duran ağırlıkların geri çekilmesi emri başka. Düzenleyici bir şirketin ürün çıkarmasını durdurabilir. Bir dosyayı durdurması çok daha zor.
Siyaset iki yöne de kesiyor ve şirket bunu biliyor. Kendine sınır çizen bir laboratuvar, hiçbir basın bülteninin satın alamayacağı bir inandırıcılık kazanıyor; aynı zamanda on iki çalışanlı bir girişimin karşılayamayacağı kuralları yazıyor. Destekleyenler bunu ciddi bir yasanın bedeli diyor; eleştirenler vicdanlı bir hendek diyor. İkisi de aynı belgeyi tarif ediyor.
Sayının en güçlü savunusu teknik değil. Elli, kamuoyunda tartışılabilir. Hesaplama eşikleri düzenleme dosyasına yapılan yorumlarda tartışılır; can kaybı sayısı gazetelerde tartışılır. Amaç hükümet değişse de ayakta kalan bir yasaysa, sade dil kesinlikten daha iyi iş görür.
Tasarının yapamayacağı şey, eşiğin doğru eşik olup olmadığına karar vermek. Risk eğrisinin biçimini kimse ellinin sağduyulu mu saçma mı olduğunu söyleyecek kadar bilmiyor. Ama yanlış ve tartışılabilir bir sayı revize edilebilir. Doğru ve ölçülemez bir ilke ise genellikle bir çekmecede durur.
