OpenAI, operasyonlarını yürütmek için ChatGPT'ye bel bağlayan Kamboçya merkezli bir dolandırıcılık ağını etkisiz hale getirdiğini açıkladı — örgütlü dolandırıcılık şebekelerinin yapay zekayı nasıl endüstriyelleştirdiğini gösteren bir vaka.
OpenAI'nin WhatsApp'tan gelen bir ihbarın ardından araştırmaya başladığını söylediği ağ, ChatGPT'yi sahte çevrimiçi kişilikler kurmak, hedeflere gönderilen mesajları yazıp çevirmek, hileli planlar için tanıtım içeriği oluşturmak ve hatta günlük idari işleri yürütmek için kullanıyordu. Operatörler birden fazla dolandırıcılık türünü aynı anda harmanlıyordu: kurbanları sahte kripto para ve altın yatırımlarına çeken sahte flört profilleri, uydurma bonuslar sunan kumar platformları ve 'para cezası' talep eden sahte kolluk kuvveti kimlikleri.
OpenAI'nin raporu üretim ölçeğini ayrıntılandırıyor — yapay zeka ile üretilen sahte pasaportlar, hukuki bildirimler, hisse satın alma onayları ve kumar arayüzleri — ve daha karanlık bir boyuta dikkat çekiyor: üretilen bazı içerikler, işçileri sahte vaatlerle işe alan Güneydoğu Asya dolandırıcılık kamplarına ilişkin haberlere uygun biçimde, insan ticareti ve zorla çalıştırmayla bağlantı belirtileri gösteriyordu.
Şirket, operasyonun yüzlerce hedefle etkileşime girmiş olabileceğini söylüyor; dolandırıcıların kendi mesajlarına göre bireysel kurbanlar binlerce dolar kaybetti. OpenAI ilgili hesapları yasakladı, tehdit göstergelerini sektör ortakları ve yetkililerle paylaştı ve yeniden kaydı engellemek için adımlar attı.
Bu operasyon, yapay zeka destekli suçlara karşı yapılan bir dizi müdahalenin en sonuncusu ve düzenleyicilerin platformların yapay zeka destekli dolandırıcılıkla mücadelede ne kadar ileri gitmesi gerektiğini tartıştığı bir döneme denk geliyor. Aynı zamanda insani maliyeti de gözler önüne seriyor: dolandırıcılığı yürütenlerin kendileri de istismar kurbanı olabilir.
