Modern dil modellerinin egitimi icin temel bir teknik olan insan geribildiriminden guclendirmeli ogrenmeyi (RLHF) gelistiren arastirmaci Paul Christiano, OpenAI Foundation yonetim kuruluna katiliyor.
"Artik, yapay zeka yeteneklerinin hizli ivmelenmesinin cok yakin bir gelecekte katastrofik ve geri donusumez bir kontrol kaybina yol acma konusunda anlamli bir risk olduguna inaniyorum" diye yazdi Christiano. "Yapay zeka endustorisinin, OpenAI dahil, bu riski kabul edilebilir bir duzeye dusurme yolunda oldugunu dusunmuyorum."
Christiano, 2021'de Alignment Research Center'i kurmadan once OpenAI'da calismisti ve ozellikle yapay zeka modellerinin sonraki yapay zeka sistemlerinin egitimi icin kullanilmasinin yarattigi tehlike konusunda uyarmisti.
Guvence Komitesi'nde, Carnegie Mellon profesoru Zico Kolter'in liderliginde yer alacak. Komite, OpenAI'in yeni modellerini yayinlayip yayinlamamaya karar verme son yetkisine sahip olacak.
Atama, yapay zeka guvenlik uygulamalarina yonlenen artan ilgi arasinda geliyor. Diger yandan, Anthropic arastirmacisi Jacob Coxon, sorumsuz olarak nitelendirdigi yapay zeka gelistirme uygulamalarina dikkat cekmek icin istifa etmisti.
