AGI'nin En Zor Sorulari Icin Kamu Forumu
Google ve Google DeepMind arastirmacilari, Yapay Genel Zekanin en zor sorularini ortaya koymak ve tartismak icin tasarlanmis yeni bir kamu kurumu olan DeepMind Institute'i carsamba gunu baslatti.
Acilis koleksiyonu, potansiyel AGI kesintisini yonetme politikalari, insana okunabilir model akil yurutmenin korunmasi, insan refahi ilkeleri ve sinir cizgi yapay zeka modellerini degerlendirme cercevesi hakkinda dort makale iceriyor.
Onemli Oneriler
En somut oneri Hassabis'ten geliyor. ABD onculugunde bir sinir cizgi yapay zeka standardi organi oneriyor. Gelistiriciler baslangicta modelleri guncellemeden 30 gun once istege bagli olarak incelemeye sunacak. Degerlendirme sistemi etkiligini kanitladiktan sonra, testleri basariyla gecmek ABD'de sinir cizgi modelleri dagitmak icin zorunlu kosul haline gelebilir.
Organ baslangicta yapay zeka sirketleri ile istisarede bulunarak degerlendirmeler tasarlayacak, ancak sonunda modellerin bilinen degerlendirmelere uydurulmasini onlemek icin bagimsiz, aciklanmayan degerlendirmeler gelistirecek. Hassabis, ciddiyet gerektiren durumlarda cercevenin sertlestirilebilecegini soyledi.
Seffaflik Sorunu
Baska bir makalede, DeepMind guvenlik arastirmacilari Rohin Shah ve Anca Dragan, yapay zekanin daralan seffaflik penceresinin — bir modelin adim adim akil yurutmesini goruntuleme ve kontrol etme yetenegi — kacinilmaz olmadigini savunuyor.
