OpenAI hat ChatGPT für Jugendliche gestartet, eine Version seines KI-Chatbots, die speziell für Nutzer im Alter von 13 bis 17 Jahren entwickelt wurde und über eine integrierte Altersvorhersage verfügt.
Der jugendspezifische Modus blockiert Gespräche über Selbstmord, Selbstverletzung sowie romantische oder sexuelle Themen. Er verwendet ein Altersvorhersagemodell, das Verhaltenssignale analysiert, um festzustellen, ob ein Konto wahrscheinlich einer Person unter 18 Jahren gehört.
Eltern können Ruhezeiten einstellen, in denen der Jugendliche keinen Zugriff auf ChatGPT hat, und Benachrichtigungen erhalten, wenn das System Hochrisiko-Gespräche erkennt. Ein spezieller Lernmodus leitet Schüler schrittweise durch Probleme, anstatt direkte Antworten zu geben.
Der Launch erfolgt, während OpenAI mit mehreren Klagen konfrontiert ist, die ChatGPT-Gespräche mit Fällen von Selbstverletzung bei Jugendlichen in Verbindung bringen. Das Unternehmen unterliegt zunehmendem Druck von Gesetzgebern und Kinderschutzexperten.
OpenAI erklärte, das Altersvorhersagesystem werde sich mit der Zeit verbessern, und räumte ein, dass es gelegentlich erwachsene Nutzer als Minderjährige einordnen könnte.
