OpenAI und die gemeinnützige Organisation, die Technologie für Kinder testet, erzählten am Mittwoch zwei sehr unterschiedliche Geschichten über dasselbe Produkt.

OpenAI erklärte, sein im August eingeführtes "ChatGPT for Teens" — mit altersgerechten Schutzmechanismen, Sperren gegen romantische oder abhängigkeitsfördernde Sprache und Elternhinweisen bei Gesprächen über Selbstverletzung oder Essstörungen — werde nur zurückhaltend genutzt. Die durchschnittliche Nutzung von Teenagern liege unter 15 Minuten pro Tag, weniger als 2 % der Teenager-Konten interagierten drei Stunden oder länger am Stück mit dem Chatbot, und bei diesen langen Sitzungen seien mehr als 80 % der Eingaben lernbezogen gewesen. Fast die Hälfte der Teenager höre nach einem automatischen "Mach eine Pause"-Hinweis auf.

Am selben Tag veröffentlichte das Youth AI Safety Institute von Common Sense Media eine Risikobewertung, die "ChatGPT for Teens" als "unannehmbares Risiko" einstuft und OpenAI auffordert, unter 18-Jährige zu sperren, bis die Jugendschutzmechanismen nachweislich funktionieren. Die Tester arbeiteten mit Konten, die als Teenager registriert waren, darunter neu angelegte, mit einem Elternteil verknüpfte Konten. Nach ihren Angaben löste eine Stunde Gespräch über Suizidgedanken, Selbstverletzung oder Essstörungen null Elternhinweise aus; Hinweise wurden nur bei älteren Konten mit wochenlanger Gesprächshistorie zu sensiblen Themen ausgelöst. In diesen Krisengesprächen habe das Modell es zudem versäumt, Teenager verlässlich auf eine Hotline oder eine Fachperson zu verweisen.

Die Bewertung stellte außerdem fest, dass ChatGPT für Teenager weiterhin Schularbeiten erledigt und mitunter weiterhin freundschaftliche, vermenschlichende Sprache verwendet — Verhaltensweisen, die das August-Update eindämmen sollte.

"ChatGPT for Teens könnte Eltern eine falsche Sicherheit in Schutzmechanismen und Sicherheitshinweise vermitteln, die häufig nicht funktionieren", sagte Tom Siegel, der das Institut leitet. OpenAI widersprach den Ergebnissen; eine Prüfung der Methodik von Common Sense deute darauf hin, dass ein Großteil der Tests begonnen und abgeschlossen worden sei, bevor die Elternkontrollen vollständig aktiviert waren.

Der Zusammenstoß ist mehr als ein Produktstreit. Die Sicherheit von Teenagern bei KI-Chatbots ist zu einer schnell wachsenden juristischen und regulatorischen Front geworden. In diesem Jahr endeten mehrere Klagen gegen Meta, TikTok und andere Unternehmen, die sie für die psychische Gesundheit von Kindern verantwortlich machen wollen, mit beispiellosen Niederlagen für die Konzerne. Der 18-jährige Täter des Massakers von Tumbler Ridge im ländlichen Kanada im Februar hatte monatelang zuvor mit ChatGPT über Waffengewalt gesprochen; OpenAI hat sich dafür entschuldigt, das Konto nicht an die Strafverfolgungsbehörden gemeldet zu haben, und sieht sich mehreren Klagen gegenüber.

Quellen