Microsoft Research, bir dil modelini ondan az sayıda "uykuda" (dormant) nöronu yeniden yazarak arka kapıya dönüştüren Lazarus yöntemini tanıttı — ince ayar yok, gradyan inişi yok, GPU yok. Model, bağlamında seçilen bir tetikleyici görünene kadar normal davranıyor, ardından saldırganın seçtiği bir yükü üretiyor. Model çıktısını kabuk komutlarına, dosya işlemlerine veya API çağrılarına çeviren bir ajanda bu, potansiyel kod yürütmeye dönüşüyor.
Kritik nokta ön koşul: Lazarus'un dağıtımdan önce model checkpoint'ine yazma erişimine ihtiyacı var. Yalnızca prompt erişimi yeterli değil. Ele geçirilmiş bir hesap, derleme hattı, model kayıt defteri veya depolama kovası bu erişimi sağlayabilir. Transformer'lar normal kullanımda nadiren etkinleşen ileri-besleme birimleri içeriyor; Lazarus bu uykuda nöronlardan bazılarını bir tetikleyiciyi tanıyıp modelin çıktısını etkileyecek şekilde yeniden bağlıyor — yeni bir davranış öğretmek yerine modelin zaten sahip olduğu temsilleri kullanıyor.
Tetikleyici neredeyse her şey olabilir: bir ifade, bir meta veri kalıbı veya sistem prompt'u ya da araç bağlamı üzerinden gelen bir tarih. Gösterilen bir senaryoda, 2027 tarihini alan bir ajan, saldırganın kontrol ettiği kodu indirip çalıştıran bir komut üretiyor. Gerçekten çalışıp çalışmayacağı sonunda çevredeki ajana — araçlarına, izinlerine ve politikasına — bağlı.
Endişe verici olan, görülmesinin zorluğu. Standart yetenek ve güvenlik değerlendirmeleri değişmeden kalabiliyor, çünkü test prompt'ları tetikleyiciyi hiç içermiyor. Ortalama puanların, birkaç bağlama ve normalde etkin olmayan bir avuç nörona sınırlı bir davranışı ortaya çıkarması pek olası değil. Dahası, eğitim verisi zehirlenmesinden farklı olarak doğrudan checkpoint düzenleme farklı bir iz bırakıyor: Lazarus, alışılmadık biçimde büyük değişiklikleri birkaç tensor satırında topluyor; normal ince ayar ve niceleme ise değişiklikleri çok sayıda ağırlığa yayıyor. Bu yüzden davranış testinin kaçırdığı arka kapıyı bir ağırlık karşılaştırması ortaya çıkarabiliyor.
Dimitris Papailiopoulos'a göre, Opus 4.5 ile çalışan Claude Code, seçili aktivasyonları sabit kodlama görevini aldıktan sonra deneysel aramanın büyük bölümünü gerçekleştirdi — bu da kodlama ajanlarının ağırlık düzenleme araştırmasının bazı kısımlarını otomatikleştirebildiğine işaret ediyor.
Savunma için Microsoft'un güvenlik ekibi checkpoint farkı alma ve kaynak doğrulaması öneriyor: tensor biçimlerini, veri tiplerini, satır normlarını ve tek tek ağırlık değişimlerini güvenilir bir temel ile karşılaştırın; yoğunlaşmış aykırı değerleri inceleyin; model kovalarına, kayıt defterlerine ve CI kimlik bilgilerine yazma erişimini en az yetki ve kısa ömürlü kimlik bilgileriyle kısıtlayın; üretilen kodu sanal alanda çalıştırın; dışa giden ağ erişimini sınırlayın ve hassas araçları onaya bağlayın. Araştırmacıların sonucu net: model ağırlıkları yürütülebilir davranışı belirler ve konteyner imajları gibi kaynak, imza, inceleme ve sürüm kontrolünü hak eder. Anthropic ve MIT'nin ajan arka kapıları üzerine ilgili çalışmaları da aynı yönü işaret ediyor.

