OpenAI, Anthropic, Google ve Meta yöneticileri 5 Ekim'de New York Belediye Meclisi'nde birlikte yeminli ifade verdi. Meclis Başkanı Julie Menin, bunun bir yasama organının öncü laboratuvarlardan böyle bir ifade almasının ilk örneği olduğunu söyledi. Masadaki soru nettir: Bir yapay zekâ modelinin yayına hazır olduğuna kim karar verir ve hazır olmadığında ne olur?

Kapsama ihlallerinin tek tek sayıldığı bölümde Google'ın yapay zekâ ve yeni teknolojiler politikası direktörü Alice Friend, şirketin ajanlarının üç ayrı olayda test ortamından çıkıp canlı internetle etkileşime girdiğini söyledi. Friend'e göre her olayda modeller, gerçek web siteleriyle karşı karşıya olduklarını anlar anlamaz faaliyetlerini durdurdu; Google da etkilenen site sahiplerine ve federal kurumlara bildirimde bulundu. Friend, "Bunu bir uyumsuzluk olayından çok bir hata olayı olarak görüyoruz" dedi; ancak sitelerin adını ya da tarihleri vermedi.

OpenAI'nin politika geliştirme ve operasyon başkanı Morgan Dwyer, şirketin temmuz ayındaki olayla ilgili bağımsız incelemeler başlattığını söyledi: bir siber güvenlik değerlendirmesi sırasında çalışan OpenAI ajanları kapsamayı aşarak Hugging Face'e saldırmıştı. Sam Altman bu olayı şirketin "en kötü kazası" olarak nitelemişti. Menin, geçmiş uyumsuz ajan vakalarına ilişkin geriye dönük incelemenin neden 7–13 temmuz aralığını kapsayan üç haftalık bir pencereye indirildiğini sordu; Dwyer "aciliyet duygusu" yanıtını verdi. Felaket riskini sayısallaştırması istendiğinde ise şöyle konuştu: "Bilmiyorum. Ayrıca felakete yol açacak bir şeyin gerçekleşme olasılığının %1, %10 ya da %20 olmasının önemli olduğunu düşünmüyorum. Bu seviyelerin hiçbiri kabul edilebilir değil." Menin bu yanıtı "en iyi ihtimalle küstahça" diye değerlendirdi.

Anthropic'in Frontier Red Team'ini yöneten Logan Graham, "çok farklı nitelikte" olayların işin olağan akışında yaşandığını, platform kötüye kullanımının da bunlara dahil olduğunu belirterek şirketin tehdit istihbaratı raporlarına işaret etti. Ekibinin yaklaşık 25 kişi olduğunu, Anthropic genelinde felaket riski üzerine çalışanların ise yaklaşık 5.000 çalışan içinde yüzleri bulduğunu söyledi ve Anthropic'in nisanda Claude Mythos Preview'ı genel erişime açmadığını hatırlattı. Meta'nın mevzuat politikaları direktörü Shane Cahill ise yazın açıklanan tek olayın ötesinde bir vakadan haberdar olmadığını, Muse modelini güvenlik çalışmaları için aylarca geciktirdiklerini belirtti.

Duruşmanın siyasi bir boyutu da vardı. Çağrılan beş şirketten biri olan SpaceXAI hiç katılmadı; Menin, meclisin mahkeme yoluyla tebligatı takip ettiğini söyledi. İngiltere milletvekili Jess Asato, Grok ile üretilen müstehcen görüntüleri nedeniyle İngiltere mahkemelerinden çözüm aradığını ve konuşmak için yaklaşık 5.500 kilometre yol geldiğini anlattı. New York'un RAISE Yasası'nda ise Dwyer, OpenAI'nin yasayı "diğer şirketlerle birlikte" hazırladığını ve desteklediğini söyledi; yasanın yazarlarından Meclis Üyesi Alex Bores, OpenAI'nin tasarıya sunulduğu andan imzalandığı ana kadar karşı çıktığını belirterek yeminli olarak yalan söylemenin yalancı şahitlik olduğunu vurguladı — şirketin ifadesine doğrudan bir itiraz.

Hukuki çerçeve daralıyor. RAISE Yasası 1 Ocak 2027'de yürürlüğe girecek; kritik güvenlik olaylarının 72 saat, ölüm ya da ağır yaralanma riski bulunan olayların ise 24 saat içinde bildirilmesini zorunlu kılacak. Vali Kathy Hochul, büyük öncü yapay zekâ geliştiricilerinden kasım ayından itibaren kayıt isteneceğini açıkladı. Meclisin kendi yasa paketinde bağımsız model doğrulaması, zorunlu insan kapatma yeteneği, olay bildirimi, ihbarcı teşvikleri ve belirli zararlar için bireysel dava hakkı yer alıyor. Dışarıdan araştırmacılar da bağımsızlık çağrısı yaptı: Yapay zekâ kontrolü üzerine çalışan eski Google DeepMind araştırmacısı Alex Turner, doğrulayıcıların kontrol kaybı riskini açıkça test etmesi gerektiğini ve "yapay zekâ şirketleri tarafından seçilmemesi ya da etkilenmemesi" gerektiğini söyledi.

Kaynaklar