WhatsApp, 'Scam Alert' adlı yeni bir isteğe bağlı özelliği test ediyor. Özellik, mesaj içeriğini Meta'ya göndermeden dolandırıcılık mesajlarını tespit etmek için cihaz üzerinde çalışan bir makine öğrenimi modeli kullanıyor; bu, güvenlik ile platformun imza niteliğindeki uçtan uca şifrelemesi arasında bir denge kuruyor.
Model kullanıcının cihazına indiriliyor ve metni sunucuya başvurmadan yerel olarak sınıflandırıyor. Şirket, 'Hiçbir mesaj içeriği sınıflandırma için cihazdan çıkmaz ve WhatsApp'a, Meta'ya ya da başka birine otomatik bildirilmez' diyor. Sistem; kimlik sahtekarlığı ve kullanıcıları kandıran AI üretimi yemler dahil gelişen dolandırıcılık yöntemlerine karşı tasarlandı.
Model muhtemel bir dolandırıcılık girişimi tespit ederse, kullanıcı sohbet içinde karşı taraftan gizlenen bir uyarı görüyor. Buradan engelleme, bildirme veya sohbete devam etme seçenekleri sunuluyor. Uyarı hatalıysa kullanıcı sohbeti güvenilir olarak işaretleyebiliyor ve sonraki uyarılar duruyor; ayrıca doğruluğu artırmak için alınan son beş mesajı paylaşmayı seçebiliyor.
WhatsApp özelliği henüz geniş çapta yayına almayacak; önce birkaç bölgede sınırlı betayla sistemi stres testine tabi tutmak istiyor. Ayrıca teknik bir özet bildiri yayımlıyor ve güvenlik topluluğunu görüş vermeye çağırıyor. Yanlış pozitif oranlarını ölçmek için kullanılan telemetri bile anonimleştiriliyor: Toplu sayılar, uçtan uca şifreleme kullanan AMD ve Nvidia destekli özel Güvenilir Yürütme Ortamlarına gönderiliyor.
Özellik, şifreli mesajlaşma uygulamalarında otomatik taramaya dair uzun süredir devam eden tartışmaların ortasında geliyor. Apple, 2021'de iPhone'ları çocuk istismarı materyali için tarama planını tepkiler üzerine rafa kaldırmıştı. WhatsApp, Scam Alert'in isteğe bağlı olduğunu, istediği zaman kapatılabileceğini ve mevcut kullanıcı bildirim kanallarının değişmediğini vurguluyor.
