Was passiert ist
Meta beschleunigt seinen Übergang zu KI-gestützter Inhaltsmoderation und behauptet, seine Systeme machten 13 Prozent weniger Fehler als menschliche Prüfer und entdeckten 10 Prozent mehr Richtlinienverstöße. Doch eine umfassende Investigation der New York Times vom 21. Juli zeigt eine dunkle Seite: Nutzer, deren Konten zu Unrecht von der KI gelöscht wurden, und die dann in einem automatisierten Beschwerdesystem gefangen waren, in dem nie ein Mensch ihren Fall prüft.
Camille Hanson, eine Englischlehrerin, die mit fast einer Million Instagram-Followern ein Unternehmen aufgebaut hatte, wachte eines Nachts auf und stellte fest, dass ihre Konten wegen "Betrug und Täuschung" gemeldet worden waren. Sie legte Berufung ein. Eine Woche später lehnte die KI sie ab. "Alle Ihre Informationen werden dauerhaft gelöscht", hieß es in Metas Antwort. "Sie können keine weitere Überprüfung dieser Entscheidung beantragen."
Eine andere Nutzerin, Athenia Rodney, betreibt JuneteenthNY, eine Gruppe zum Gedenken an die Abschaffung der Sklaverei in den USA. Nach 17 Jahren Aktivismus löschte Meta ihre Konten — ausgerechnet wegen des Verdachts auf Material über Kindesmissbrauch. "Alles, was wir tun, ist familienfreundlich", sagte sie.
Warum es wichtig ist
Beides kann wahr sein: Die KI ist im Durchschnitt genauer, und sie produziert dennoch eine große absolute Anzahl katastrophaler Fehler im Milliarden-Maßstab von Meta. Das tiefere Problem ist struktureller Natur — wenn dieselbe KI, die Sie sperrt, auch Ihren Einspruch bearbeitet, gibt es keine sinnvolle Kontrolle ihrer Macht.
