Yapay zekâ sektörünün en istikrarlı eleştirmenlerinden biri iddiasını alışılmadık ölçüde net biçimde yineledi: Timnit Gebru'ya göre yapay zekânın insanlığı yok edeceği tartışması bilimsel bir anlaşmazlık değil, düzenleyicileri ve yatırımcıları hedefleyen bir pazarlama kampanyası.
Büyük dil modellerindeki önyargıyı ve çevresel maliyeti belgeleyen bir makale yüzünden 2020'de Google'dan ayrılan Gebru, pazartesi yayımlanan söyleşide WIRED'dan Lauren Goode'a varoluşsal risk anlatısını yalnızca bir oyalama değil "zararlı" olarak nitelendirdi. Temel argümanı uyarıların parasını kimin ödediğiyle ilgili. Future of Life Institute'ün MIT fizikçisi Max Tegmark ile Anthropic'in A serisi yatırım turuna liderlik eden Skype kurucu ortaklarından Jaan Tallinn tarafından kurulduğunu hatırlatıyor; bir OpenAI ajanının Hugging Face'i hacklediği iddiasına dair raporuyla geniş yankı bulan değerlendirici METR'i de aynı Tallinn finanse ediyor. Gebru'ya göre finansörler, laboratuvarlar ve üçüncü taraf denetçiler tek bir ağ oluşturuyor; kamuoyunun aynı şeyi söyleyen çok sayıda bağımsız ses gördüğü izlenimi bu yüzden yanıltıcı.
Parayı takip edin, diyor; mesaj, beyan edilen gerekçenin açıklayamadığı biçimde anlam kazanıyor. Yatırımcıya aşırı güçlü makinelerin geldiğini söylemek onları içeri çekiyor; hükümetlere aynı şeyi söylemek geri kalmaktan korkmalarına yol açıyor; düzenleyicilere yasalaştırmaya değer tek riskin kurgusal bir süper zekâ olduğunu söylemek dikkati veri merkezlerinden, kirlilikten, telif haklarından ve emekten uzaklaştırıyor. "Sorumluluktan her zaman sıyrılabilirsiniz" diyor — "başıboş ajan" ve "P(doom)" dili, sistemleri kuran mühendislerin sorumluluğunu ortadan kaldırıyor.
Söyleşi, bu eleştirinin alışılmadık ölçüde somut malzeme bulduğu bir haftada yayımlandı. Bu hafta açıklanan Anthropic borsa başvuru prospektüsü 42 milyar dolarlık zararı, 518 milyar dolarlık planlanmış hesaplama harcamasını ve şirketin kendi yapay zekâsının insanlığı sona erdirebileceğine dair resmi bir uyarıyı birleştiriyor — Gebru'nun teşvik uyumu anlatısının öngöreceği bir bileşim.
İçerikte Gebru, 2021 tarihli öncü makalesi "Stokastik Papağanların Tehlikeleri Üzerine"nin akıl yürütme modelleriyle aşıldığı suçlamasına da yanıt veriyor. Anthropic kurucu ortaklarından Jack Clark kısa süre önce bu çerçeveyi, araştırmacıları yapay zekâ ilerlemesine karşı kör eden "memetik olarak uyumlu bir bilişsel virüs" diye adlandırmıştı. Gebru'nun yanıtı, makalenin büyük dil modellerinin ne olduğunu anlattığı ve bunun değişmediği yönünde: en olası sonraki token'ları üretmek üzere eğitilen modeller bu nedenle çıktılarını anlamaz. Samy Bengio'nun ekibinin, akıl yürütme kıyaslama puanlarının küçük değişikliklerle sert biçimde düştüğünü gösteren çalışmasına — genel yetenek yerine ezberlenmiş biçimi işaret eden örüntüye — ve akıcılığın hatayı gizlediği tıbbi ve çeviri hatalarına, ilk makalenin uyardığı otomasyon yanlılığı etkisi dahil, atıf yapıyor.
Yönetişim önerileri bilinçli olarak gösterişsiz: mevcut aldatıcı pazarlama yasasını uygulamak; eğitim verisinin belgelenmesini zorunlu kılmak; sohbet robotlarını etiketleyen ve kimi zaman onların yerine geçen veri çalışanlarının emek koşullarını ele almak; verilerin izinsiz kazınmasını durdurmak. Bu önlemlerin, spekülatif süper zekâ kurallarından farklı olarak, mevcut piyasa matematiği ucuz veriye ve düşük hesap verebilirliğe dayanan bir sektörü anlamlı biçimde yavaşlatacağını savunuyor.
Gebru yapay zekânın zararsız olduğunu söylemiyor. Enstitüsü ve gelecek yıl başında çıkacak kitabı — "Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist" — belgelenmiş zararlara odaklanıyor: önyargı, çevresel yük, emek sömürüsü ve akıcı ama güvenilmez çıktı üzerinden kamusal güvenin erozyonu. Anlaşmazlık, ispat yükünün nereye ait olduğuyla ilgili.
İzlenecekler: düzenleyicilerin onun saydığı sıkıcı araçları — belgeleme yükümlülükleri ve pazarlama kuralları — mı benimseyeceği, yoksa varsayımsal olanı yasalaştırmayı mı sürdüreceği; ve halka arz kaynaklı anlatı savaşının bir sonraki güvenlik tartışmasında kimin bağımsız uzman sayılacağını değiştirip değiştirmeyeceği.
