Zwei Tage vor Inkrafttreten der bahnbrechenden chinesischen Vorschriften fur anthropomorphe KI ziehen die groten Technologieunternehmen des Landes bereits den Stecker bei menschenahnlichen Chatbots.
ByteDance und Alibaba deaktivieren Funktionen zur Erstellung benutzerdefinierter, menschenahnlicher KI-Agenten auf ihren jeweiligen Plattformen Doubao und Qwen vor der Frist am 15. Juli. Diese praventiven Compliance-Maßnahmen erfolgen, wahrend Chinas „Interimsmaßnahmen fur die Verwaltung KI-anthropomorpher interaktiver Dienste“ in Kraft treten, den weltweit ersten umfassenden Einschrankungen fur offentlich zugangliche KI-Systeme, die fur emotionale Bindung konzipiert sind.
Die neuen Vorschriften gelten fur KI-Dienste, die in China der Offentlichkeit zuganglich sind und eine „kontinuierliche emotionale Interaktion unter Nachahmung der Personlichkeitsmerkmale, Denkmuster und Kommunikationsstile naturlicher Personen“ anbieten. Die Regeln verlangen von Dienstanbietern, KI-Interaktionen klar als maschinell erzeugt zu kennzeichnen.
Insbesondere verbieten die Maßnahmen den Plattformen, emotionale Abhangigkeit oder Sucht zu induzieren, Benutzer zu manipulieren oder Minderjahrigen virtuelle intime Beziehungen anzubieten. Die Vorschriften verbieten auch Inhalte, die Selbstverletzung verherrlichen.
Bemerkenswerterweise sehen die Regeln eine klare Ausnahme fur Unternehmensanwendungen vor. Die Maßnahmen gelten ausdrucklich nicht fur Business-to-Business-KI, einschlieblich Kundendienst-Bots, interne Arbeitsplatzassistenten oder Werkzeuge fur Bildung und Forschung.
Doubao von ByteDance – der beliebteste KI-Chatbot Chinas – hat eine Funktion eingestellt, mit der Benutzer ihre eigenen KI-Personas anpassen konnten. Alibabas Qwen und andere grobe KI-Plattformen ergreifen ahnliche Maßnahmen.
Die Vorschriften entstehen aus wachsenden Bedenken hinsichtlich KI-Chatbots, die menschliche Personlichkeiten simulieren, und der emotionalen Bindungen, die Benutzer zu ihnen aufbauen.
Chinas Schritt signalisiert eine neue Phase in der globalen KI-Governance: die erste grobe Rechtsordnung, die emotionale KI-Produkte als eigene Regulierungskategorie behandelt, die spezifische Verbote erfordert.
