İçerik moderasyonu tanıdık bir kalıba sahip: politika ekibi kuralları düz yazıyla yazar, bir mühendis bunları eğitilmiş bir sınıflandırıcıya çevirir ve her politika değişikliği yeni bir eğitim koşusu ile yeni bir dağıtım döngüsü demektir. Karar modelleri üzerine kurulmuş bir şirket olan Musubi bu adımları tek adıma indirmek istiyor.
Şirket salı günü PolicyLM-1.7B'yi duyurdu: düz İngilizce yazılmış bir içerik politikasını alıp mesajlara 50 milisaniyenin altında uygulayan, açık ağırlıklı bir karar modeli. Model, Hugging Face'te Musubi Labs tarafından bir metin sınıflandırma modeli olarak yayımlandı.
Fikir, bu yıl yapay zekâda en çok izlenen başlıklardan biri hâline gelen bir kategoriye dayanıyor. Karar modelleri metin üretmek yerine sonuç olasılıkları üretir; burada söz konusu olan, bir içeriğin bir kategoriye girip girmediğine dair ikili bir yargı. Çıktının önceden belirlenmiş seçeneklerle sınırlanması, bu modellerin transformer mimarisinin esnekliğini korurken genel amaçlı dil modellerinden daha hızlı ve daha ucuz çalışmasını sağlıyor. Kategori, Typesafe AI'ın eylülde Jev'i yayımlamasının ardından OpenAI ve Amazon'un rakip karar modelleriyle dikkat çekmişti.
Musubi'nin iddiası, 1,7 milyar parametreli bir modelin çoğu sosyal platformda moderasyonu yürüten amaca özel yapay zekâ sınıflandırıcılarının maliyet ve hızına yaklaşabileceği, ancak bunu alışılmış eğitim döngüsü olmadan yapabileceği yönünde. Politika modele ağırlıklara gömülmek yerine girdi olarak verildiği için bir platformun politika ekibi kuralları yeniden yazıp sonucu hemen görebiliyor. Duyuruda, "Daha da önemlisi, politika değiştiğinde modelin yeniden eğitilmesi gerekmeyecek; bu da politika belirleyicilerin istedikleri kadar yineleme yapmasını sağlıyor" deniyor.
Musubi'nin kurucu ortaklarından ve baş yapay zekâ sorumlusu Filip Jankovic'e göre değer, cezalandırmaktan çok görünürlükle ilgili. TechCrunch'a konuşan Jankovic, "Ürün ekipleri platformlarında ne olup bittiğini daha iyi anlamak istiyor; özellikle içerik miktarı katlanarak artarken" dedi. "Tüm bunları çok ölçeklenebilir ve özelleştirilebilir bir biçimde etiketleyebilmek son derece faydalı." Jankovic, karar modellerine ilgisinin Jev'den önceye, benzer teknikler üzerine kurulu 2024 tarihli genel amaçlı varlık tanıma projesi GLiNER'a dayandığını söylüyor.
Şirket bu karşılaştırmadan çekinmiyor. Ürün duyurusunda "Jev dikkatinizi çektiyse, PolicyLM-1.7B aynı türden, özellikle içerik moderasyonu için eğitilmiş ve kendi sunucunuzda çalıştırabileceğiniz bir model" ifadeleri yer alıyor; bu cümle, moderasyon altyapısını bir tedarikçinin API'si arkasında değil kendi donanımında tutmak isteyen platformları hedefliyor.
Neden önemli
Moderasyon her zaman önce bir maliyet, sonra bir politika sorunudur. Her alt politika için özel bir sınıflandırıcı eğitmek ve çalıştırmak pahalıdır ve ortaya çıkan sistem kırılgandır: kurallar değiştiğinde mühendislik işi baştan başlar. Küçük, açık ve politikayı takip eden bir model darboğazı makine öğrenmesi mühendisliğinden politika tasarımına kaydırır; platformların giderek daha fazla istediğini söylediği yer de tam olarak burası. Modeli kendi bünyesinde çalıştırmak ayrıca kullanıcı içeriğini üçüncü taraf çıkarım servislerine göndermeye ilişkin büyüyen endişeyi de bertaraf ediyor.
Henüz kanıtlanmayanlar
Duyuru bir ürün iddiası; hakem değerlendirmesinden geçmiş bir kanıt değil. PolicyLM-1.7B'nin gerçek platform trafiğinde yerleşik bir üretim sınıflandırıcısının doğruluğuna denk olduğunu gösteren yayımlanmış bir karşılaştırma yok. Politikaya uyma davranışı ise tam da bir taksonominin sınırlarında sessizce bozulan bir yetenek: alaycılık, yeniden sahiplenilmiş aşağılayıcı ifadeler, şifreli dil ya da bir terimin tek bir haftalık mem akışında geçirdiği anlam kayması. 50 milisaniyenin altı rakamı da donanıma, parti boyutuna ve dizi uzunluğuna bağlı bir sunum iddiası.
Hesap verebilirlik ise daha zor soru. Yazılı bir politikadan inşa edilen bir moderatör, denetlenebilir artefaktı politikanın kendisi yapar; bu bir iyileşmedir. Ancak Avrupa Birliği'ndeki platformlar Dijital Hizmetler Yasası uyarınca kullanıcılara ve düzenleyicilere tek tek kararları açıklayabilmek zorunda ve "model sizin yazdığınız paragrafı uyguladı" savunması ancak o paragraf kadar savunulabilir. Açık ağırlıklar burada işe yarıyor: araştırmacılar ve sivil toplum kuruluşları bir satıcının özetine güvenmek yerine modelin davranışını doğrudan test edebiliyor.
Şimdilik daha ilginç sinyal belki de gidişatın kendisi: yapay zekâ ajanlarının yoldan çıkmasını engellemek için doğan karar modeli fikri bu kez insan davranışına yöneltiliyor — ve bunun araçları kiralanmak yerine dağıtılıyor.
