Ein historischer Eingriff
In dem, was Beamte als bisher größte Abschaltung expliziter Deepfake-Websites bezeichnen, hat die Staatsanwaltschaft des Manhattan District zwölf Domains beschlagnahmt, die dazu genutzt wurden, nicht einvernehmliche Deepfake-Videos von Prominenten zu hosten, zu teilen und zu verkaufen. Die am 14. September angekündigte Operation richtete sich gegen Websites, die insgesamt rund 1.200 Opfer – überwiegend Frauen – in manipulierten sexuellen Inhalten zeigten.
Umfang der Websites
Die beschlagnahmten Websites verwendeten Namen mit Phrasen wie 'Sex-Celebrity' und versprachen 'echte Deepfakes'. Sie hosteten Videos einiger der berühmtesten Menschen der Welt. Die Videos konnten mehrere Minuten lang sein und enthielten vollständig explizite Szenen, bei denen Prominanten-Gesichter in bestehende pornografische Inhalte eingefügt wurden. Archivierte Versionen zeigten, dass einige Zehntausende Male angesehen wurden; eine Website gab an, seit 2018 online zu sein.
Zu den Opfern zählten Social-Media-Influencer, Schauspieler, Aktivistinnen, Sportler, Musiker und Politiker. Recherchen des American Sunlight Project ergaben, dass 56 europäische und 16 US-amerikanische Politiker auf den beschlagnahmten Websites erwähnt oder dargestellt wurden. Viele Videos schienen Reposts der berüchtigten MrDeepFakes-Plattform zu sein, die zuvor abgeschaltet wurde, nachdem ihre Betreiber enttarnt worden waren.
Durchsetzung durch neue rechtliche Befugnisse
Die Beschlagnahmungen erfolgten im Rahmen der Strafprozessordnung New Yorks, ermöglicht durch den Take It Down Act, der der Strafverfolgung zunehmend die Bereinigung und Beschlagnahmung von Websites ermöglicht, die nicht einvernehmliche intime Bilder verbreiten. Die Websites zeigen jetzt Beschlagnahmungsmitteilungen des Supreme Court of New York.
Staatsanwalt Alvin Bragg forderte die Opfer auf, sich an die Cybercrime-Abteilung seines Büros zu wenden, und sagte, die Verletzungen 'verfolgen die Opfer in ihre Karrieren und ihr Privatleben und fordern einen enormen Tribut an emotionaler und geistiger Gesundheit.' Die Ermittlungen gegen die Verantwortlichen laufen weiter.
Ein bedeutender, aber begrenzter Erfolg
Forscher bezeichneten die Abschaltungen als großen Schritt nach vorn. Leonie Oehmig vom Institute for Strategic Dialogue sagte, die Durchsetzung zeige, dass 'bedeutsame, koordinierte Durchsetzung selbst dort erreichbar ist, wo die Regulierung selbst fragmentiert bleibt.' Die beschlagnahmten Sites scheinen auch über VPN-Verbindungen nicht erreichbar zu sein.
Oehmig warnte jedoch, dass das Deepfake-Ökosystem weit über Hosting-Sites hinausgeht. 'Wirksame Intervention muss das Ökosystem an mehreren Punkten angreifen, einschließlich der Erstellungswerkzeuge, der Entdeckungs- und Förderplattformen, der Hosting-Infrastruktur und der Zahlungs- und Partner-Systeme, die es Betreibern ermöglichen, damit Geld zu verdienen.'
