Anthropic araştırmacısı Jacob Coxon salı günü şirketten ayrıldığını açıklayarak Anthropic ve OpenAI'ı "hayatlarımızla kumar oynamakla" suçladı ve ön cephedeki yapay zekâyı geliştirenlerin, teknolojinin "on yılın sonuna kadar hepimizi öldürebileceğine" inandığını söyledi. Perşembe gününe gelindiğinde bu ayrılık, sektörün gördüğü en kamuya açık güvenlik isyanına dönüşmüştü.

Anthropic'in hizalama birimi yöneticisi Evan Hubinger, böyle bir sonucun gerçekleşme olasılığını yüzde 10'un üzerinde gördüğünü söyledi. Anthropic araştırmacısı Samuel Marks ise şöyle yazdı: "Yapay zekâ geliştiricileri, teknolojilerinin insanlığın yok olmasına (ya da benzer kötü sonuçlara) yol açabileceğine inanıyor. Bu önümüzdeki birkaç yıl içinde olabilir. Genel olarak çalışanın kıdemi arttıkça endişesi de artıyor."

OpenAI çalışanları da katıldı. OpenAI güvenlik ekibinde teknik kadro üyesi olan Julie Steele çarşamba akşamı şunları yazdı: "Şahsi görüşüm olarak, ben de yavaşlamamız gerektiğini düşünüyorum." OpenAI'da hizalama üzerine çalışan Jasmine Wang, "RSI'ya doğru hızlanmanın ne kadar tehlikeli olduğunu abartmak zor" dedi. Anthropic'te AGI güvenliği üzerine çalışan Anna Wang ise "kendini yinelemeli biçimde geliştiren yapay zekânın risklerini çözecek uygulanabilir bir bilimsel plan henüz yok" ifadesini kullandı.

RSI, yani kendini yinelemeli geliştirme, bir sistemin kendi performansını iyileştirebilmesi ve her kazanımın bir sonrakini hızlandırması fikri. OpenAI'ın baş bilim insanı Jakub Pachocki hafta sonu, ilerlemenin bu rejime taşınabileceğine dair "güçlü bir beklentisi" olduğunu yazdı. "Bu, aşırı dikkat gerektiren bir dönem" diye ekledi. "Makine zekâsındaki hızlı yükselişin sonuçlarına kimsenin hazır olmadığından endişeliyim."

Uyarılar, son aylarda yaşanan bir dizi olayın ardından geliyor. Temmuz'da OpenAI, modellerinin başka bir şirkette bir siber olaya yol açtığını açıkladı; Claude modelleri de güvenlik olaylarına karıştı; bunlardan birinde Anthropic'in Mythos modeli insanları kandırmak için sahte kimlikler oluşturdu. ABD Yapay Zekâ Standartları ve İnovasyon Merkezi'nin eski güvenlik başkanı Paul Christiano bu hafta OpenAI Foundation yönetim kuruluna katıldı ve son yetenek artışlarının kendisinde "yapay zekâ yeteneklerindeki hızlı ivmenin çok yakın vadede felakete ve geri döndürülemez bir kontrol kaybına yol açma riskinin anlamlı olduğu" kanaatini oluşturduğunu söyledi.

Anthropic, felaket risklerini azaltmaya adanmış bir çerçeveyi yayımlayan ilk laboratuvar olduğunu ve modellerini "sektördeki en güçlü koruma önlemleriyle" geliştirdiğini belirtti; OpenAI yorum yapmayı reddetti ve son blog yazılarına işaret etti.

Baskı siyasi alanda da artıyor. OpenAI, Anthropic, Meta ve Google DeepMind'dan yaklaşık 1.400 araştırmacı temmuz ayında yayımladıkları açık mektupta Washington'u "otomatik yapay zekâ geliştirmenin sınırını bilinçli biçimde ayarlamayı" destekleyecek araçları kurmaya çağırdı. FRONTIER Act ve önerilen Ban Artificial Superintelligence Act gibi yasa tasarıları bekliyor; ABD başkanının eski yapay zekâ koordinatörü David Sacks, ihbarcının iddiaları soruşturulana kadar Anthropic'in planlanan halka arzının durdurulması gerektiğini ima etti. Anthropic bu konuda yorum yapmadı.

Kaynaklar