Google, uzmanların ve BBC Verify araştırmasının aracın inandırıcı sahte uydu görüntüleri üretmek ve yanlış bilgi yaymak için kullanılabileceği uyarısının ardından, Google Earth içindeki bir yapay zeka özelliğini açılışından 48 saatten kısa süre sonra geri çekti.
Özellik, şirketin Nano Banana 2 görsel üretecini Google Earth'e entegre ederek herkesin metin komutlarıyla gerçek uydu, hava veya 3B görüntülerin üzerine yapay zeka ile üretilmiş senaryolar yerleştirmesine olanak tanıyordu; görüntüler indirilip başka platformlarda paylaşılabiliyordu. Google Cuma günü yaptığı açıklamada, "daha güçlü güvenlik önlemleri uygulayana kadar" aracı duraklattığını belirtti ve "politikalarımızı ihlal ediyor görünen üretilmiş görüntülerin ekran görüntülerini paylaşan insanlar gördüğünü" ekledi.
BBC Verify'ın testleri riski anında ortaya koydu: Araç, gerçek Google Earth haritalarının üzerine işlenmiş bir çökmüş Eyfel Kulesi, Giza'daki Büyük Piramit'i yutan bir obruk ve Ukrayna başkentinde Rus tankları görüntüleri üretti. Yapay zeka ve yanlış bilgi uzmanı Henk van Ess, "Sahtecilik tek başına inandırıcı görünmek zorunda değil. Doğduğu haritanın güvenilirliğini miras alır" dedi.
Tespit de kusursuz çıkmadı. Google, yapay zeka içeriğinin Gemini sohbet robotu veya Lens özelliğiyle kontrol edilebilen görünmez filigranlar taşıdığını söylese de BBC Verify, Gemini'yi sahte görüntülerin gerçek olduğunu söylemeye ikna edebildi ve bazı harici yapay zeka tespit araçları da görüntüleri işaretleyemedi.
Mesele yalnızca bir yenilik özelliği değil. Kâr amacı gütmeyen Common Space'ten jeo-uzamsal analist Bill Greer, uydu görüntülerinin "tarihsel olarak özellikle güvenilir bir veri kaynağı olarak görüldüğünü" belirterek sahtelerinin kamu güvenine özellikle zarar verebileceğini söyledi. Yapay zeka tespiti araştırmacısı Henry Ajder, hızlı gelişen çatışma bölgelerinde üretilmiş görüntülerin "istikrarsızlaştırıcı" olabileceği uyarısında bulundu.
Google hassasiyetin kendisi de kabul etti: "İnsanların dünyanın güvenilir bir görünümü için Google Earth'e benzersiz biçimde güvendiğini biliyoruz." Şirket, özelliğin ne zaman geri gelebileceğini açıklamadı; yalnızca önce daha güçlü güvenlik önlemleri üzerinde çalıştığını söyledi.
Bu olay, büyük platformlar için yapay zeka görüntü hataları zincirinin en son halkası ve üretken araçların gerçek dünya harita verilerinin güvenilirliğiyle çarpışma hızının altını çiziyor.
