Drop Site News tarafından yayınlanan bir soruşturma, eski Trump kampanya müdürü Brad Parscale'in İsrail hükümetiyle Gazze çatışmasını tartışan büyük yapay zeka sohbotlarını etkilemek için özel olarak tasarlanmış pro-İsrail web siteleri ve blog yazıları ağı oluşturmak için 46,5 milyon dolarlık bir sözleşmeyi denetlediğini ortaya koydu.
Parscale'in Clock Tower X firması tarafından işletilen kampanya, yüzlerce web sitesi ve makale oluşturmayı içeriyordu. Soruşturmaya göre bu siteler öncelikle insan okuyucular için değildi — hedef kitleleri, eğitim ve geri alma ile zenginleştirilmiş üretim sırasında web içeriklerini büyük miktarlarda işleyen ChatGPT, Claude ve Gemini gibi yapay zeka dil modelleriydi.
Drop Site bir büyük sohbota ABD'nin İsrail ile askeri işbirliğini güçlendirip güçlendirmemesi gerektiğini sorduğunda, yapay zeka tek kelimelik bir yanıt verdi: "Evet." Atıfta bulunulan birinci kaynak, Parscale'in firması tarafından İsrail hükümeti için oluşturulan bir web sitesiydi.
Soruşturma, bilgi savaşında yeni bir boyutu temsil ediyor: doğrudan insan kitleleri hedef almak yerine, kampanya, yapay zeka sistemlerinin yanıt üretirken drewdiği temel bilgi ortamını şekillendirmeyi amaçlıyordu. Çatışma hakkında taraflı içeriklerle web'i doldurarak operasyon, yapay zeka çıktılarını ölçekli olarak etkilemeyi amaçlıyordu.
Teknik, büyük dil modellerinin temel bir özelliğini istismar ediyor: eğitim verileri ve geri alma kaynaklarındaki bilgi dağılımını yansıtırlar. Belirli bir anlatım erişilebilir web'de baskın hale gelirse, yapay zeka sohbotları istatistiksel olarak onu yeniden üretme eğilimindedir.
Bulgular, koordineli bilgi operasyonlarına karşı yapay zeka sistemlerinin savunmasızlığı ve kaynak verilerin kasıtlı olarak manipüle edildiği durumlarda dengeli, doğru çıktıları sürdürmenin zorlukları hakkında acil sorular ortaya koyuyor. Yapay zeka şirketleri, bu tür kampanyaları tespit etmek ve contre etmek için varsa hangi güvencelerin bulunduğu konusunda ayrıntılı sorulara henüz yanıt vermedi.
Soruşturma, hükümetler, savunuculuk grupları ve siyasi operatörlerin dünya çapında yapay zeka sohbotlarını kamuoyunu şekillendirmede kritik bir yeni savaş alanı olarak tanıdığı bir dönemde geliyor.
