OpenAI hat eine Gruppe von ChatGPT-Konten gesperrt, die in Russland originierten und zur Unterstützung einer heimlichen Einflusskampagne verwendet wurden, die einen fiktiven Think Tank bewirbt und dem Kreml geneigte Narrative verbreitet.
Die Betreiber leiteten ihre Verbindungen über VPNs, um OpenAI's Verbot des Modellzugangs aus Russland zu umgehen. Sie nutzten ChatGPT auf Russisch, um Social-Media-Inhalte zu verfassen, die auf Substack, Telegram, X, Facebook und LinkedIn verteilt wurden, während sie das Modell anwiesen, alle Spuren zu entfernen, die auf seine KI-Herkunft hindeuten könnten.
Die Kampagne konzentrierte sich auf eine Organisation namens International Burke Institute, einen selbst beschriebenen Expertenkreis mit einer israelischen Adresse. OpenAI sagte, die Website fabricierte fälschlicherweise prominente Wissenschaftler wie Francis Fukuyama und Noam Chomsky. Von 36 Artikeln wurden 34 aus dem Internet kopiert.
Ein zentrales Merkmal war ein "Souveränitätsindex", der Länder nach einer Metrik bewertete, die Russland positiv darstellen und westliche Nationen kritisieren sollte.
