Yapay zeka endustriesinde eşi benzeri gorulmemiş bir birlik sergileyen 1.367 arastırmacı ve muhendis, OpenAI, Anthropic, Google DeepMind ve diger oncu laboratuvarlardan, yapay zeka gelıstirmenin insan kontrolunun otesine gectini uyararak acık bir mektup yayımladı.
Mektup soyle diyor: Yetenek gelıstirmenin, ortaya cikan sistemleri anlama veya kontrol etme yetenegimizin otesine hizla gecmesi gercek bir risktir. ABD hükümetinden, otomatik yapay zeka gelıstirmenin sinirlarını kasıtlı olarak dengelemek icin gerekli teknik ve yonetim araclarını gelıstirmeye yonelik uluslararası bir cabayı desteklemesini istiyor.
UC Berkeleyden Stuart Russell tarafından analiz edilen neredeyse yuz ımcının kisisel acıklamalarından ucu baskın tema ortaya cıkmaktadır:
Silahlanma Ikilemi. Birden fazla ımcı, tek taraflı olarak kacabilecekleri rekabetci bir dinegiğe sıstırmıs oldugunu anlatıyor. Dunya, bir zeka patlamasına dogru oldurcu bir yarista kilitlenmis durumda, diye yazan biri, hayatta kalmak icin yarısı yavaslatmak uzere koordine olmamız gerekıyor diye ekliyor.
Super Zekaya Yonelik Plan Yok. Ikinci tema, super zeki yapay zeka sistemlerini kontrol etmeye yonelik guvenilir planların tamamen eksikligidir. Bir arastırmacı, super zekalı makinenin dunyayı ele gecirmesini onlemek icin ondan nasıl onlenecegini sormanın en iyi sans oldugunu ve bu planın en fazla yuzde 50 sansla calısacagını soyluyor.
Yapımcılar Arasındaki Gerek Korku. En duygusal tema ise teknolojiye en yakın kisilerdeki gerk korkudur. Su anda yakin gelecekte bir yavaslama gormeyen tum yollardan olduce korkuyorum diyen bir ımcı, en kısa acıklama ise yalnızca şunu soyluyordu: Sevdigimiz her seyi dusunun.
