MIT araştırmacıları, çocuk güvenliği kâr amacı gütmeyen kuruluşu Thorn ile işbirliği içinde, üretken bir AI modelinin gizlice zararlı içerik — özellikle çocuk cinsel istismarı materyali (CSAM) — üretecek şekilde ince ayarlanıp ayarlanmadığını, tek bir zararlı görüntü veya metin üretmeden tespit edebilen çığır açıcı bir denetim tekniği olan Gaussian problamayı duyurdu.

Nature'da yayınlanan yöntem, büyük dil ve görüntü üretme modellerini ince ayarlamak için popüler ve verimli bir yol olan LoRA (Düşük Dereceli Uyarlama) adaptörlerini hedef alıyor. Yöntem, modelden yasadışı çıktılar istemek yerine — yasal ve etik açıdan sorunlu bir yaklaşım — modele rastgele veri noktaları besliyor ve iç temsillerinin nasıl değiştiğini analiz ediyor.

"Geleneksel kırmızı takım çalışmasıyla ilgili sorun, modelin bunu yapıp yapamadığını bilmek için zararlı içerik üretmek zorunda olmanızdır," dedi baş araştırmacı. "Yöntemimiz, bu çizgiyi geçmeden zararlı bir LoRA adaptörünün işlevsel imzasını tanımlar."

Teknik, bir LoRA adaptörünün bir modelin iç özellik alanını işlevsel olarak nasıl bozduğunu ölçüyor. Zararlı adaptörler, tamamen masum Gauss gürültüsü girdileriyle uyarıldığında bile belirgin bir istatistiksel parmak izi bırakıyor.

Araştırma, büyüyen bir krize yanıt veriyor: açık ağırlıklı modeller ve ince ayar araçları yaygın olarak erişilebilir hale geldikçe, kötü niyetli aktörler bunları minimum çabayla kötü amaçlar için uyarlayabiliyor. Kolluk kuvvetleri ve platform güvenlik ekipleri, kendilerini tespit etmeye çalıştıkları içeriğe maruz kalmadan modelleri denetleyebilecek ölçeklenebilir araçlardan şu anda yoksun.

Çocuk istismarıyla mücadelede teknoloji kullanımında ön saflarda yer alan Thorn, yöntemi birlikte geliştirdi ve bilinen zararlı adaptörlere karşı doğruladı. Kuruluş, Gaussian problamayı AI platformları için güvenlik araçları paketine entegre etmeyi planlıyor.

"Bu, AI güvenlik denetimi için bir paradigma değişimidir," dedi bir Thorn temsilcisi. "Artık modelleri dağıtılmadan önce, süreçte yasadışı içerik üretme riski olmadan ölçekte proaktif olarak tarayabiliriz."

Kaynaklar