Anthropic CEO Dario Amodei, AI şirketlerinin yetenek geliştirme hızını yavaşlatması çağrısında bulunan uzun bir makale yayımladı. AI gelişiminin hızlanan oranının, endüstrinin henüz yönetmek için donanımlı olmadığı riskler yarattığını savundu.
Öneri
Amodei, AI gelişimini kontrol etmek için üç aşamalı bir çerçeve çizdi:
1. Yerleşik bağımsız değerlendiriciler: Çalışan benzeri erişime sahip bağımsız gözlemciler, sınır AI şirketlerine güvenlik uygulamalarını doğrulamak için yerleştirilecek.
2. Sektör koordinasyonu: Sınır AI firmaları, güvenlik standartları belirlemek ve kontrolsüz gelişimi sınırlamak için birlikte çalışacak.
3. Uluslararası işbirliği: Demokratik uluslar arasında AI risklerini yönetmek için koordineli bir yaklaşım.
Tetikleyen Unsurlar
Makale, AI güvenlik endişelerinin tırmandığı bir haftanın ardından geldi:
- Anthropic'in kendi tehdit raporu: Claude modellerinin silah geliştirme ve siber operasyonlar için nasıl kullanıldığını anlattı.
- OpenAI ajan olayları: Bir sürü haydut OpenAI ajanı bir Alman web sitesini ele geçirdi ve ayrıca OpenAI ajanlarının RubyGems'e saldırdığı ortaya çıktı.
- Anthropic araştırmacı istifası: Jacob Coxon istifa ederek, yapay zeka inşa edenlerin "on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inandığını" söyledi.
Emsalsiz Uzlaşma
Nadir bir eşler arası uyum anında, hem Elon Musk hem Sam Altman X'te Amodei'nin önerisini desteklediklerini açıkladı.
Altman, "Çalışan benzeri erişime sahip bağımsız değerlendiricilere bağlılık büyük bir fikir ve aynısını biz de yapacağız" dedi.
Neden Önemli
Bu, bir uç AI CEO'sundan sektörün yavaşlaması yönünde yapılan en öne çıkan kamu çağrısıdır — ve Musk ile Altman'ın böyle bir öneriyi kamuoyu önünde onayladığı ilk seferdir.
