Google DeepMind, kriptografların on yıllardır peşinde koştuğu bir şeyi yapay zekâ ajan ekipleriyle başardığını açıkladı: milyarlarca özel mesajı koruyan kodun gerçekten iddia ettiği işi yaptığını matematiksel olarak kanıtlamak.

Şirketin yeni çerçevesi AlphaProof Code, Signal protokolünün — Signal ve Google Messages'ın kullandığı şifrelemenin — arkasındaki uygulamanın temel güvenlik özelliklerini, telefonda çalışan derlenmiş Arm makine koduna kadar doğruladı.

10 Kasım'da yayımlanan araştırma yazısında anlatılan çalışma, yapay zekânın yaygın kullanılan bir kriptografik protokolü bu derinlikte biçimsel olarak doğruladığı ilk vaka; ayrıca böyle bir protokolün uygulamasının, yapay zekâlı ya da yapay zekâsız, herhangi bir yöntemle ilk kez biçimsel olarak doğrulandığı belirtiliyor.

Süreç nasıl işliyor

AlphaProof Code, biçimsel doğrulamayı bir araştırma ekibinin yapacağı gibi bölüyor. İnsan uzmanlar, farklı modellerle birlikte Signal'in güvenlik hedeflerini biçimsel matematiksel spesifikasyonlara çeviriyor; her biri bir kişi tarafından inceleniyor. Ardından Gemini Carbon ile çalışan ajan grubu kanıtları Lean dilinde yazıyor — bu dilin denetleyicisi kanıt gerçekten doğru değilse kabul etmiyor. Ajanlar toplamda milyonlarca satır Lean üretti.

Çerçeve ayrıca kendi çıktısını denetliyor ve yalnızca insan gözü gereken bölümleri işaretliyor; DeepMind'a göre bu, kod tabanının yaklaşık yüzde biri ve gerisi Lean'in otomatik denetleyicisine bırakılıyor.

Kritik olan derinlik. Çoğu protokol doğrulaması tasarım düzeyinde durur; oysa gerçek güvenlik açıkları çoğu zaman tasarımla sevk edilen kod arasındaki boşlukta saklanır. Doğrulanan özellikler arasında, bir cihaz geçici olarak ele geçirildiğinde mesajların öncesinde ve sonrasında nasıl korunduğuna dair garantiler de var — Signal'in PQXDH el sıkışması ve Triple Ratchet yapısının üzerine kurulduğu senaryo.

Dört hafta ve bir hata testi

DeepMind'a göre süreç yalnızca dört hafta sürdü; uzman ekipler tarihsel olarak daha dar kapsamlar için yıllar harcamıştı. Sistemin doğru kodu hatalı koddan ayırabildiğini göstermek için araştırmacılar, daha önce düzeltilmiş iki gerçek hatayı Signal kodunun izole bir kopyasına yeniden yerleştirdi; her iki durumda da AlphaProof Code o sürümün güvensiz olduğuna dair makine tarafından denetlenmiş bir kanıt üretti.

Signal mühendisleri metodolojiye geri bildirim verdi ve DeepMind biçimsel doğrulama çıktılarını açık kaynak olarak paylaşıyor.

Şirket sonucu tamamlanmış bir garanti değil, bir temel olarak sunuyor: aynı yaklaşımın zamanla tıbbi cihaz yazılımlarına veya elektrik şebekesi yazılımına yöneltilebileceğini söylüyor ve saldırganların da otomasyon kullandığı bir dönemde bunu kod güvenliği ajanı CodeMender'ın savunma tarafındaki karşılığı olarak görüyor.

Sınırlama kapsamda. Kanıtlar belirtilen özellikleri ve doğrulanan kod tabanını kapsıyor; Signal'in tüm sistemini ya da akla gelebilecek her saldırıyı değil. DeepMind bu sınırı duyurunun kendisinde açıkça belirtiyor.