OpenAI hat offengelegt, dass es ein in Kambodscha ansässiges Betrugsnetzwerk zerschlagen hat, das sich für seine Operationen auf ChatGPT stützte — ein Fall, der zeigt, wie organisierte Betrugssyndikate KI heute industrialisieren.
Das Netzwerk, das OpenAI eigenen Angaben zufolge nach einem Hinweis von WhatsApp zu untersuchen begann, nutzte ChatGPT, um gefälschte Online-Persönlichkeiten aufzubauen, Nachrichten an Ziele zu verfassen und zu übersetzen, Werbeinhalte für betrügerische Machenschaften zu erstellen und sogar die tägliche Verwaltung zu übernehmen. Die Betreiber vermischten mehrere Betrugsarten gleichzeitig: gefälschte Dating-Profile, die Opfer in erfundene Krypto- und Goldanlagen lockten, Glücksspielplattformen mit erfundenen Boni und vorgetäuschte Polizeieinsätze, die 'Bußgelder' forderten.
OpenAI beschreibt in seinem Bericht den Produktionsumfang — KI-generierte gefälschte Pässe, Rechtsbescheide, Aktienkaufbestätigungen und Spieloberflächen — und weist auf eine dunklere Dimension hin: Einige generierte Inhalte deuteten auf Verbindungen zu Menschenhandel und Zwangsarbeit hin, im Einklang mit Berichten über südostasiatische Betrugskomplexe, die Arbeiter unter falschen Versprechungen anwerben.
Das Unternehmen erklärte, die Operation habe möglicherweise mit hunderten Zielen interagiert; einzelnen Opfern seien den Nachrichten der Betrüger zufolge tausende Dollar verloren gegangen. OpenAI sperrte die zugehörigen Konten, teilte Bedrohungsindikatoren mit Branchenpartnern und Behörden und ergriff Maßnahmen, um eine Neuregistrierung zu verhindern.
Die Zerschlagung ist die jüngste einer Reihe von Maßnahmen gegen KI-gestützte Kriminalität und kommt zu einem Zeitpunkt, an dem Regulierer darüber debattieren, wie weit Plattformen bei der Bekämpfung KI-gestützten Betrugs gehen müssen. Sie zeigt auch die menschlichen Kosten: Die Menschen hinter den Betrugsmaschen sind womöglich selbst Opfer von Ausbeutung.
