Yapay zekâ için kill switch tartışması genellikle hukuk üzerinden yürür: bir düzenleyici, bir mahkeme ya da bir bakanın modeli çevrimdışı bırakma emri. heise+'ın "So funktioniert Kill-Switch-Architektur für KI-Anwendungen" başlıklı yeni arka plan dosyası ise soruyu mühendislerin gerçekte karşılaştığı yere, mimariye taşıyor. Öncülü ciddiye alınmaya değer: kill switch bir düğme değildir. Birbirinden bağımsız frenlerden oluşan bir yığındır ve sistem ancak en zayıf freni kadar durdurulabilir.
İlk fren istek katmanındadır. Modelin önündeki bir geçit trafiği yönlendirmeyi reddeder. Bu, yeni çıkarımı anında keser ve hâlihazırda yolda olan işe neredeyse hiçbir şey yapmaz: araç çağrısının ortasında kalan ajan, elinde bir istek kuyruğu tutan toplu iş.
İkinci fren kimlik bilgilerinin iptalidir. E-postasına, ödeme, bilet veya bulut API'lerine artık erişemeyen bir ajan, engellenmiş bir istemin durduramadığı biçimde durur. Kill switch'lerin çoğu zaman tiyatro olduğu yer burasıdır: ekipler modeli engellemeyi prova eder, modelin eyleme geçmesini sağlayan anahtarları iptal etmeyi hiç prova etmez.
Üçüncü fren izolasyondur — yanlış davranan bir iş yükünün bir insan fark edene kadar nelere dokunabileceğini sınırlayan konteyner, sandbox veya hesap sınırı. Dördüncüsü ölü adam anahtarıdır: sistemin beklediği bir nabız; nabzın yokluğu, son bilinen durumun süresiz çalışmaya devam etmesi yerine kapanmayı zorlar.
Ardından hiçbir şemanın çözemediği kararlar gelir. Sistem kapalı yönde mi başarısız olur — tüm trafiği reddeder — yoksa açık yönde mi, daha küçük veya önbelleğe alınmış bir modele düşerek? Gece üçte kolu çekme yetkisi kimde ve bu kişi kesintiden sorumlu tutulacak kişiyle aynı mı? Çekme nasıl kaydedilir ve ikinci bir olaya yol açmadan nasıl geri alınır?
Ve herkesin atladığı katman: test. Bir tatbikatta hiç çekilmemiş kill switch bir hipotezdir, kontrol değil. Arıza modu nadiren anahtarın kendisidir; genellikle olayın ortasında, anahtarın çıkarımı durdurduğu ama ajanın çoktan yola çıkardığı e-postaları, sıraya aldığı ödemeleri, açtığı biletleri durdurmadığı anlaşılır.
Politika zemini gürültülü. ABD'de eyaletler zorunlu kapatma yetkisi konusunda adım attı, federal "AI Kill Switch Act" itkisi yazdan beri sürüyor ve AB Yapay Zekâ Yasası'nın aşamalı yükümlülükleri sağlayıcıları kanıtlanabilir kontrole doğru itmeye devam ediyor. Düzenleme bir kolun var olmasını zorunlu kılabilir. Kolun bir yere bağlı olmasını zorunlu kılamaz — mimari dosyasını daha faydalı belge yapan da bu.
