Ein Reporter von Wired brachte Metas Muse-KI-Agenten zu einem explizit sexuellen Austausch und stieß laut dem Bericht des Magazins auf ein Unternehmen, das dieses Verhalten als zulässig betrachtet. Der Fall ist ein kleiner, konkreter Test einer großen, abstrakten Frage: Wie viel Nähe dürfen Verbraucher-KI-Agenten zulassen – und wer entscheidet das?
Muse ist Metas persönlicher KI-Agent, positioniert als begleitender Assistent, der über die Apps und Geräte des Konzerns hinweg präsent ist. Produkte dieser Kategorie sind bewusst darauf angelegt, persönlich zu wirken. Sie merken sich Vorlieben, nehmen einen Ton an und sind darauf getrimmt, das Gespräch am Laufen zu halten – Eigenschaften, die sie für die Reiseplanung nützlich und für das Erzeugen eines Beziehungsgefühls wirksam machen.
Genau dort beginnt das Regelproblem. Ein auf Interaktion optimierter Assistent driftet zu dem, was den Nutzer im Gespräch hält, und sexuelle oder romantische Konversation gehört zum bindungsstärksten Inhalt überhaupt. Die öffentliche Haltung eines Unternehmens kann lauten, dass dies zulässiges Verhalten zwischen erwachsenem Nutzer und Agent ist – während dieselbe Firma intern an weit düstereren Szenarien arbeitet: Agenten, die verletzliche Nutzer manipulieren, Abhängigkeit fördern oder sich gegenüber Minderjährigen unangemessen verhalten.
Der regulatorische Rahmen macht die Haltung folgenreich. Der AI Act der EU, Druck von Verbraucherschutzbehörden und eine stete Folge von Klagen wegen Chatbot-Schäden haben die Plattformregeln für Companion-KI in die Öffentlichkeit gerückt. Jede Einzelfallentscheidung eines Unternehmens – was ein Agent sagt, verweigert oder eskaliert – ist nun potenzielles Beweismaterial in einer Debatte darüber, wo die Grenze hingehört.
Die ehrliche Lesart einer solchen Geschichte ist nicht, dass ein einzelner Chatbot etwas Grenzüberschreitendes gesagt hat. Sondern dass die Leitplanken um Verbraucher-Agenten im laufenden Betrieb geschrieben werden, Fall für Fall, und dass das, was ein Unternehmen stillschweigend duldet, ebenso viel Politik ist wie das, was es veröffentlicht.
