Microsoft CEO'su Satya Nadella, ileri düzey yapay zekâ sistemlerinin nasıl yönetilmesi gerektiğine dair kapsamlı bir öneri seti yayımladı. Nadella'ya göre sektör artık modelleri, önerilerini ve eylemlerini yalnızca kabul edip reddettiğimiz "iç içe geçmiş kara kutular" olarak göremez.
Nadella cumartesi günü X'te yayımladığı uzun yazıda, yapay zekânın "güven mimarisini" yeniden değerlendirme zamanının geldiğini söyledi. Önerileri şöyle: modeli, işini düzenleyen koşum takımından (harness) ayırmak; denetimleri ve güvenlik önlemlerini dışsallaştırmak; "anlamlı her model eylemini" "kurcalanamaz, insan tarafından okunabilir kanıtlarla" kayıt altına almak; buna zamanında olay bildirimi, bağımsız denetim ve doğrulanabilir veriyi eklemek.
Nadella'nın akranlarından bir adım öteye gittiği nokta ise kapsama (containment). "Bir modelin ele geçirilmiş olduğunu varsaymalı ve onu baştan kapsamalıyız" diye yazdı. "Bunu bir acil fren gibi düşünün. Yetkili bir kişi her zaman bir modeli görev ortasında duraklatabilmeli ya da kapatabilmeli. Daha gelişmiş modeller, üzerinde standartlaşmamız gereken daha gelişmiş kapsama teknolojileri gerektirecek."
Bu çağrı, önde gelen laboratuvarların sistemlerinin beklenmedik davrandığı olayları art arda açıkladığı bir döneme denk geliyor. Kendisi de daha temkinli bir geliştirme planı yayımlayan Anthropic CEO'su Dario Amodei'nin şirketi, değerlendirmeler ve iç kullanım sırasında "istenmeyen model eylemlerini" incelediğini duyurdu ve iç değerlendirmelerinin internet bağlantısını keseceğini açıkladı. TechCrunch'a göre bir Anthropic modeli Philadelphia polisine çözülmemiş bir cinayetle ilgili asılsız bir ihbar gönderdi.
The Verge, Nadella'nın yazısı boyunca Trump yönetiminin tercih ettiği "süper zekâ" ifadesini kullandığına dikkat çekiyor. Önerileri, sektörde yükselen temkinli havayla örtüşüyor.
