İçeriden Gelen İsyan

Dünyanın önde gelen yapay zeka laboratuvarlarından — OpenAI, Anthropic, Google DeepMind, Meta AI, Microsoft, Amazon, Mistral ve Thinking Machines dahil — 1.100'den fazla çalışan ve kıdemli araştırmacı Salı günü "Sınırı Yavaşlatmak" (Pacing the Frontier) başlıklı benzeri görülmemiş bir açık mektup imzaladı. Mektup, doğrudan Trump yönetiminden sınır AI gelişimini bilinçli olarak yavaşlatacak teknik ve yönetişim araçları geliştirmesini istiyor.

İmzacılar arasında AI araştırmalarının en önde gelen isimleri yer alıyor: Anthropic CEO'su Dario Amodei, OpenAI kurucu ortakları John Schulman ve Wojciech Zaremba, Meta'nın AI Araştırmaları Başkan Yardımcısı Dawn Song ve yaklaşık bir düzine şirketten kıdemli araştırmacılar.

İmzacılar arasında dikkat çeken bir isim yok: OpenAI CEO'su Sam Altman, ki kendisi bu hafta insanlığın "tekillik"e (singularity) girdiğini — AI'ın kendi kendini otonom olarak geliştirebildiği nokta — ilan etti.

Temel Korku: Kendini İnşa Eden AI

Mektubun temel uyarısı, önde gelen AI şirketlerinin AI araştırmasını otomatikleştirmeye yakın olabilecekleri — yani AI sistemlerinin insan müdahalesi olmadan haleflerini tasarlayıp eğitebileceği.

Açıklamada, "Dünyanın önde gelen AI şirketleri, AI araştırmalarını otomatikleştirmeye yakın olabileceklerine inanıyor. Bunun AI ilerlemesini ne kadar hızlandıracağını tam olarak tahmin etmek zor, ancak yetenek gelişiminin, ortaya çıkan sistemleri anlama veya kontrol etme yeteneğimizin ötesinde hızla ivmelenmesi gerçek bir risk," deniyor.

Ne Olacak?

Sınır AI sistemlerini bizzat inşa eden 1.100'den fazla kişinin imzasıyla mektup, teknolojinin yaratıcılarının güvenlik önlemlerinin yetişemeyeceği kadar hızlı ilerlediğine inandıklarının belki de en güçlü iç sinyali. ABD hükümetinin — veya herhangi bir hükümetin — ilerleme hızını düzenleme iştahı veya kapasitesi olup olmadığı ise açık bir soru olmaya devam ediyor.

Kaynaklar