Die Europäische Kommission hat TikTok vorläufig einen Verstoß gegen den Digital Services Act festgestellt — nicht wegen eines Videos, das die Plattform nicht entfernt hat, sondern wegen der Art und Weise, wie ihr Empfehlungssystem entscheidet, was als Nächstes kommt. Die am 6. November veröffentlichte Feststellung betrifft den „Rabbit-Hole-Effekt" des For-You-Feeds.
Der Mechanismus, den die Kommission beschreibt, ist genau der, auf dem TikToks Produktlogik beruht. Je mehr eine Person mit einer Inhaltsart interagiert, desto mehr ähnliche Inhalte empfiehlt der Algorithmus, und der Feed liefert weiter einen ununterbrochenen Strom personalisierter Videos — auch wenn es um Traurigkeit, Isolation oder Körperbild geht. Diese endlose, wiederholte Konfrontation, so das Argument aus Brüssel, kann die psychische Gesundheit schädigen, besonders bei Minderjährigen und vulnerablen Erwachsenen.
Beide Hälften des Risikorahmens der DSA sind betroffen: die Risikobewertung, die TikTok vorgenommen hat, und die Abhilfemaßnahmen, die es ergriffen hat. Die Kommission erkennt an, dass TikTok Schritte unternommen hat, hält sie aber für nicht wirksam genug, und verlangt Änderungen am Design der Plattform statt an ihrer Moderationswarteschlange. Zu den Empfehlungen gehören: den ausdrücklichen Präferenzen der Nutzer mehr Gewicht geben, weil der „Nicht interessiert"-Button „möglicherweise nicht ausreicht, um den Inhaltsfeed zu verändern"; die Sehdauer nicht länger als Empfehlungssignal verwenden; die Nutzerkontrollen leichter erreichbar und bedienbar machen; und den Algorithmus regelmäßig testen.
TikTok wies die Feststellungen zurück. Eine Sprecherin sagte gegenüber Euronews, die Kommission habe „eine Reihe von Aussagen gemacht, die grundlegend unzutreffend sind" und „die Architektur unserer Plattform und unser Engagement für die Sicherheit der Nutzer verzerren"; das Unternehmen verweist auf eine starke Bilanz beim Schutz seiner Community. TikToks Algorithmus empfiehlt nach Angaben der Kommission weiterhin ähnliche Videos, auch wenn Nutzer signalisieren, dass sie bestimmte Inhalte nicht wollen.
Es ist die dritte vorläufige DSA-Feststellung gegen TikTok in diesem Jahr — die früheren betrafen „süchtig machende Designelemente", die zu zwanghafter Nutzung bei Kindern führen sollen, sowie unzureichenden Schutz der Privatsphäre von Kindern — und sie folgt einer Aufforderung an Meta im Juli, das suchtfördernde Design von Facebook und Instagram zu ändern. Die zugrunde liegende Untersuchung läuft seit mehr als zwei Jahren.
Vorläufige Feststellungen sind kein Urteil. TikTok kann Stellung nehmen; anschließend kann die Kommission das Verfahren mit verbindlichen Zusagen abschließen oder zu einer Feststellung der Nichtkonformität eskalieren. Die Obergrenze der DSA dafür liegt bei 6 Prozent des weltweiten Jahresumsatzes.
Was diesen Fall unterscheidet, ist der Ort des behaupteten Verstoßes. Die DSA-Durchsetzung befasste sich bisher überwiegend mit Inhalten und mit Transparenz — damit, was Plattformen hosten, entfernen, kennzeichnen und berichten. Diese Feststellung sagt, dass die Rangfolge selbst der Schaden ist: Ein Optimierungsziel, das Engagement maximiert, führt eine Person zuverlässig zu mehr von dem, was ihre Aufmerksamkeit gehalten hat, und „mehr vom Gleichen" ist keine neutrale Anweisung, wenn der Ausgangspunkt Inhalte über Selbstverletzung sind.
Für TikTok ist das ein schwierigeres Problem als ein Moderationsrückstand. Es zu lösen bedeutet zu ändern, worauf der For-You-Feed optimieren darf — und die Verteidigung des Unternehmens, die Kommission verstehe seine Architektur nicht, ist zugleich das Argument, dass die Architektur sich nicht ändern müsse. Brüssel hat die entgegengesetzte Lesart gewählt und damit die Bedingungen gesetzt, unter denen die nächste Runde ausgetragen wird.
