PHP'deki kritik bir güvenlik açığının çok sayıda siteyi çevrimdışı bırakmasından bir hafta sonra Almanya Yeşiller Partisi, güçlü yapay zekâ sistemleri için bağlayıcı güvenlik standartlarını ve bu sistemlerin yol açtığı zararlardan şirketler ile yöneticilerinin sorumlu tutulmasını öngören bir önergeyi Bundestag'a sundu.
27 Ekim'de aktarılan önerge, bağımsız denetimleri ve ciddi olayların ardından zorunlu, belgelenmiş bir olay incelemesini talep ediyor. Partinin dijital politika sözcüsü Rebecca Lenhard'a göre "yapay zekâ sistemlerinin güvenliği artık yalnızca onları geliştiren şirketlere bırakılamaz". Zarara yol açanların sorumlu olması gerektiğini savunan Lenhard, bunun büyük yapay zekâ şirketlerinin yönetim kurulları için de geçerli olması gerektiğini söyledi.
Zamanlama bilinçli. PHP açığı çok sayıda sitenin önlem olarak kapatılmasına yol açtı ve Lenhard bunu dijital altyapının ne kadar açıkta olduğunun kanıtı olarak gösterdi. Ardından gelen argüman, bir yama hikâyesini yapay zekâ hikâyesine dönüştüren argüman: saldırganlar bu tür açıkları giderek daha hızlı bulmak ve sömürmek için yapay zekâdan yararlanabiliyor; Yeşiller bunu en yetenekli sistemler için daha sıkı güvenlik kuralları gerektiğinin işareti olarak okuyor.
Önerge ayrıca Federal Bilgi Güvenliği Dairesi'nin (BSI) ve Yapay Zekâ Güvenliği Enstitüsü'nün (AISI) personel, bütçe ve teknik kapasite açısından büyütülmesini, Almanya'nın Birleşmiş Milletler dahil ortak uluslararası yapay zekâ güvenlik standartları için çalışmasını istiyor. Yeşiller milletvekili Konstantin von Notz son haftalardaki olaylara işaret ederek hükümetin duyuruların ardından eylem geldiğini göstermesi gerektiğini söyledi.
Hukuki arka plan, talebi kulağa geldiğinden daha somut kılıyor. AB'nin gözden geçirilmiş Ürün Sorumluluğu Direktifi yazılımı ve yapay zekâ sistemlerini açıkça ürün olarak kapsıyor ve Almanya bunu 9 Aralık 2026'ya kadar ulusal hukuka aktarmak zorunda — bu tarih, "yapay zekâda sorumluluk"u bir slogandan takvime bağlı bir mevzuat çalışmasına dönüştürüyor. Yapay zekâ zararının dava edilmesini zorlaştıran kanıt sorunlarını tam olarak hedefleyen ayrı AB Yapay Zekâ Sorumluluğu Direktifi ise Şubat 2025'te geri çekildi; kanıt ve yetki soruları ulusal hukuka kaldı.
Bu boşluk her sorumluluk rejiminin zayıf noktası ve Yeşiller'in önerisi nasıl kapatılacağını henüz söylemiyor. Bir yapay zekâ sisteminin üreticisi, işleticisi ve kullanıcısı arasında sorumluluk pek çok biçimde paylaştırılabilir; zararlı tavsiye veren bir sohbet botu, veritabanını silen bir ajan ve birine açık bulmasında yardım eden bir model üç farklı nedensellik zinciridir. Yöneticiler için kişisel sorumluluk bir adım daha ileri gidiyor ve hem Alman şirketler hukukundan hem de belirli bir yönetim kararının belirli bir zarara yol açtığını kanıtlamanın pratik güçlüğünden geçmek zorunda.
Karşı taraftan kurumsal bir baskı da var. BSI başkanı Claudia Plattner geçtiğimiz günlerde şirketlerin yapay zekâyı hızla devreye aldığını, birçoğunun ise yapay zekâ güvenlik olayları için hâlâ sabit prosedürlere sahip olmadığını belirtti — kurumdaki daha fazla personel ve daha hızlı uyarı süreçlerinin daraltması beklenen operasyonel boşluk tam olarak bu.
Uluslararası bağlam da aynı yöne gidiyor. Avustralya'nın siber güvenlik kurumları 27 Ekim'de yapay zekânın devlet ve suç aktörleri tarafından açıkları daha hızlı ve daha geniş ölçekte sömürmek için kullanıldığı uyarısını yaptı.
