Staatsanwalt David Chiu von San Francisco hat Meta ein Unterlassungsschreiben zugeschickt und die sofortige Einstellung bezahlter Werbeanzeigen verlangt, die KI-generiertes Material zur sexuellen Ausbeutung von Kindern auf den Plattformen des Unternehmens enthalten.
Der Schritt folgt einer Untersuchung des Tech Transparency Projects (TTP), das mehr als 350 Anzeigen in den letzten Monaten entdeckte, die Standbilder von Minderjährigen -- darunter reale, identifizierbare Personen, einschließlich eines Mitglieds einer europäischen königlichen Familie -- in kurze Videoclips verwandelten, die sexuelle Handlungen darstellten.
Die Anzeigen erreichten mehr als 29.000 Konten in der EU, den USA, Australien und Indien über Facebook, Instagram und Threads. Entscheidend: Über 250 der Anzeigen liefen nach dem initialen Bericht von WIRED Anfang August, was darauf hindeutet, dass Meta nicht in eigener Regie handelte.
'Meta hat es versäumt, ein bekanntes Problem mit KI-generierten sexuell expliziten Kinderanzeigen zu lösen und profitiert davon gleichzeitig', sagte Chiu. 'Diese Anzeigen sind zutiefst beunruhigend und verursachen Schaden an realen Kindern.'
Das vierseitige Schreiben verlangt von Meta eine Erklärung, wie die Anzeigen seine Moderationssysteme umgingen, Details zur Meldung an das National Center for Missing and Exploited Children, und einen Überblick darüber, wie wiederholte Verstöße behandelt werden.
Meta behauptet, die Anzeigen fielen nicht unter die Zuständigkeit San Franciscos. Das Staatsanwalts-Office widersprach: 'San Francisco Verbraucher können die rechtswidrigen Anzeigen über Meta Online-Räume erreichen.'
TTP-Direktorin Katie Paul merkte an, dass seit dem 8. September-Bericht ihrer Organisation weitere neue Anzeigen mit einigen derselben Kinder gelaufen sind.
Meta sagt, die Gesamtausgaben für alle 300-plus identifizierten Anzeigen lagen unter 5.000 Dollar und viele wurden entfernt, bevor sie gemeldet wurden. Das Unternehmen verbietet Nudification-Apps und Kinderausbeutungs-Inhalte in seinen Werberichtlinien.
Trotz dieser Behauptungen deuten das Volumen und die Persistenz der Anzeigen auf erhebliche Lücken in Metas Werbeüberprüfungsprozess hin. Chiu hat Meta 28 Tage Zeit zur Antwort gegeben.
