Sir Geoffrey Vos birkaç hafta içinde İngiltere ve Galler'in en üst hukuk yargıcı olan Master of the Rolls görevinden ayrılıyor. Görevdeki son günlerinde verdiği iki konuşma, bir görevdeki üst düzey yargıcın makine yargılamasına dair sunduğu en somut programı ve aynı zamanda bunun nasıl tökezleyeceğine dair en net tarifi oluşturuyor.

Ne öneriyor

WIRED'a verdiği röportajda Vos, yapay zekânın birçok hukuk davasını kendi başına çözebileceğini söyledi ve sınırın nereye çekileceğine dair bir tartışma çağrısı yaptı. Dönüm noktası, hukuk davalarının yoğun yapay zekâ desteğiyle zaten görüldüğü Shenzhen'deki bir mahkeme ziyaretiydi. Bedeni zarar ve düşük değerli mesleki ihmal davalarındaki tazminat hesabını, azınlık hissedar uyuşmazlıklarındaki pay değerlemesini makinenin tarafına koyuyor. Karmaşık ticari davalar ve velayet insanlarda kalıyor.

Vos, Microsoft Copilot'u kendisinin de kullandığını söylüyor: belge bulmak, uzun metinleri özetlemek ve olguları doğrulamak için. Karar yazmak için değil.

Çektiği sınır

New South Wales Yüksek Mahkemesi'ndeki John Lehane Anma Konferansı'nda daha netti. Davacılar bir gün, bir insanı aylarca ya da yıllarca beklemek yerine, davalarının "dakikalar içinde bir makine tarafından, çok az maliyetle ya da bedava" karara bağlanmasını seçebilir — yeter ki kamu, makine kararlarının insan kararları kadar güvenilir olduğu gösterildikçe onlara güvenmeye başlasın.

Tartışmayı taşıyan ayrım rıza. "Rızaya dayalı makine kararları bir şeydir, rızaya dayanmayanlar bambaşka bir şey," dedi ve mahkemelerin istemeyen bir tarafa makine kararı dayatamamasının "hukuki ilke açısından önemli nedenleri" olduğunu savundu. İnsan yargıç tarafından karara bağlanma hakkı "derinlere kök salmış" ve yargıçlar kanun değişikliği olmadan değiştirilmemeli.

Makine aracılığıyla uyuşmazlık çözümünün artık sıradan olduğuna kanıt olarak eBay'i gösterdi: platformda yılda 60 milyon uyuşmazlık, %90'ı insan müdahalesi olmadan çözülüyor.

Önemli olan cümle

Aynı konuşmada, herkesin atladığı riskin mevcut en iyi tarifi duruyor:

> "Bir yargıcın önüne 1.000 karar konursa, ekonomik ve zamansal baskılar kaçınılmaz olarak yargıcın makinenin önerilerini onaylamasına yol açar."

Bu bilim kurgu değil. İnsanı döngüde tutan sistemlerin standart arıza biçimi: insan biçimsel olarak süreçte kalır ama ondan sapacak ne zamanı ne bağlamı vardır. Vos bunu adlandırıyor ve nasıl önleneceğini söylemiyor.

Karşı kanıtlar zaten ortada

İngiliz mahkemeleri bu deneyi boşlukta yapmıyor. Birkaç avukat, yapay zekânın uydurduğu içtihatları zikretmekten yakalandı; biri kısmen yapay zekâ kötüye kullanımı nedeniyle lisansını kaybetti — Birleşik Krallık'ta bir ilk olarak bildirildi. Yeni sulh mahkemesi davaları yılda yaklaşık %10 artıyor; bir kısmı chatbot'lar tarafından yazılmış. Daha hızlı karar veren bir sistem, daha hızlı üreten bir sistemle karşılaşıyor.

Vos'un yanıtı şu: mahkemeler sahte delillerle her zaman uğraştı — sahte vasiyetnameler gibi — ve deepfake'ler yargıcın işini değiştirmiyor; yine birinin doğruyu söyleyip söylemediğine karar vermek gerekiyor. Bu, paniğe karşı iyi bir argüman. Onay makinesine dönüşmeye karşı bir argüman değil.

Görev devri gündemi sürdürüyor

Vos'un yerine Master of the Rolls olarak Sir Colin Birss geliyor; Birss aynı zamanda İngiltere ve Galler'de yapay zekâdan sorumlu baş yargıç. Dosya devirle birlikte yalnızca yaşamıyor, ülkenin en üst hukuk yargıçlığı makamına taşınıyor.

Eksik olan ne

İki konuşmada da bulunmayan dört şey: bir makine kararının ne zaman "güvenilir" sayılacağına dair bir standart; bunu bağımsız olarak sınayacak bir prosedür; insan kararları için değil makine kararları için tasarlanmış bir itiraz yolu; ve alternatifi — aylar ya da yıllar süren bekleme — kendi başına bir baskı biçimiyken rızanın nasıl işleyeceğine dair bir yanıt. "Makine" ile "üç yıl" arasında seçim yapan biri özgürce seçmiyor.

Bunların hiçbiri Vos'un önerisine karşı bir argüman değil. Onu bir teknoloji dağıtımı değil, bir yasama projesi olarak ele almak için bir argüman.

Kaynaklar