Google DeepMind araştırmacıları, Signal protokolünün önemli bölümlerinin gerçekten iddia edildiği gibi çalıştığını ajan tabanlı bir yapay zekâ sistemiyle biçimsel olarak doğruladı: makinenin denetlediği matematiksel bir kanıt, bir test paketi değil. Sonucu WIRED 10 Kasım'da duyurdu.

Biçimsel doğrulama, bir yazılımın uyması gereken özellikleri matematiksel ifadelere dönüştürüp uygulamanın bunları sağladığını kanıtlama disiplini; kanıtın geçerli olup olmadığına kanıt denetleyicisi karar veriyor. Onlarca yıldır yalnızca küçük ve kritik çekirdeklere ayrılıyordu — bir kripto ilkeli, bir zamanlayıcı — çünkü şartnameyi formüle, formülü de kanıta çevirmek yavaş ve insan emeği isteyen bir işti.

Signal çalışması dört hafta sürdü ve AlphaProof Code adlı yeni bir çerçeve kullandı. Öne çıkan üç nokta var.

Birincisi, inceleme kapsamındaki protokol bölümlerinde yeni bir güvenlik açığı bulunmadı. İkincisi, sistem kör onay makinesi değil: bilinen ve çoktan kapatılmış açıkları taşıyan eski Signal sürümlerine yöneltildiğinde bu açıkları tespit etti ve protokolün biçimsel olarak doğrulanamayacağını gösterdi. Bir doğrulayıcıyı gösteriden ayıran test tam olarak bu olumsuz sonuçtur. Üçüncüsü, DeepMind geliştirdiği şartnameyi ve kanıtı kamuya açıyor; başkaları bunun üzerine inşa edebilecek.

Kapsam sınırlıydı. Araştırmacılar Signal mobil uygulamasının tamamını değil, protokolün bir bölümünü doğruladı; ayrıca avantajlı başladılar, çünkü Signal Foundation kodun daha küçük parçaları üzerinde biçimsel doğrulama çalışmaları yapmıştı.

Signal'in teknoloji direktörü Ehren Kret yaptığı açıklamada, "Önceki biçimsel doğrulama çalışmaları kodun daha küçük bölümlerine odaklanırken Google DeepMind'ın yaklaşımı ciddi bir genişleme sağlıyor" dedi. "Yapay zekâ kaynaklı güvenlik tehditleri büyürken Signal protokol uygulamasını titizlikle doğrulamak, kodumuzun gizlilik garantilerine duyduğumuz güveni daha da artırıyor."

İnsan denetimi süreçten çıkarılmadı. Araştırmacılar, ajanların neredeyse her aşamada katkı verip kendi kendini düzelttiği, insanların ise kilit noktalarda inceleme yaptığı bir "insan-yapay zekâ işbirliği süreci" tanımlıyor — modelin kendi kanıtlarını notlandırmasının pek bir şey kanıtlamadığına dair bariz itiraza açık bir yanıt.

DeepMind araştırma bilim insanı Swarat Chaudhuri, "Amaçların da kanıtların da yapay zekâ tarafından üretildiği, yani sistemin kendi yazdığı sınavlara girdiği bir 'vibe' dünyası istemiyoruz" dedi. "Arada bir orta yol var." Şöyle ekledi: "Bu sonuçtan çok heyecanlıyız ama bunu dünyanın tüm yazılımlarına ölçeklemek için uzun bir yol var ve bunu yapmak istiyoruz."

Ticari gerekçe açık. Google Cloud baş bilim insanı ve DeepMind araştırma başkan yardımcısı Pushmeet Kohli, "Bu uygulamaların doğruluğunu kanıtlayabiliyorsanız artık içiniz rahat olabilir" dedi. "Bankaları, garantiye dayanan ve hata kaygısı taşıyan bütün şirketleri düşünün; artık 'bu özellikleri kanıtlayabilirim' diyebilirler."

Açık kalan soru ekonomi. DeepMind Signal analizini bir araştırma projesi olarak ücretsiz yaptı; Google maliyeti paylaşmadı ve ticari bir biçimsel doğrulama ürünü ya da hizmeti planlayıp planlamadığı konusunda yorum yapmadı. Bu tür kanıtların amiral gemisi bir gösterimin dışında makul maliyetle üretilip üretilemeyeceği, biçimsel doğrulamanın sıradan bir mühendislik pratiğine mi dönüşeceğini yoksa bir gösteri olarak mı kalacağını belirleyecek.

Manşeti denetim raporu gibi okuyanlar için bir ayrıntı önemli: protokolü doğrulamak, onu uygulayan uygulamayı doğrulamakla aynı şey değil; bir kanıt da ancak başladığı şartname kadar güçlü. DeepMind'ın katkısı her iki cephede de inandırıcı bir adım — yazıya dökülüp yayımlanan bir şartname ve onu denetleyebilen bir makine — ama Signal'in bütünüyle güvenli olduğuna dair bir sertifika değil.