OpenAI hat eine Reihe von Sicherheitsfunktionen eingeführt, die speziell auf jugendliche Nutzer von ChatGPT zugeschnitten sind — eines der bedeutendsten Schritte eines KI-Unternehmens zur Lösung von Problemen der Jugendsicherheit.
In einem Blogbeitrag mit dem Titel 'Sicherheit, Freiheit und Privatsphäre Jugendlicher' legte CEO Sam Altman drei konkurrierende Prinzipien dar, die das Unternehmen auszubalancieren versucht: den Schutz der Privatsphäre, die Bewahrung der Nutzerfreiheit und den Schutz Minderjähriger. Für Jugendliche, so Altman, gehe Sicherheit den anderen beiden vor.
Zu den wichtigsten Funktionen gehören: - Altersvorhersagesystem: Ein KI-basiertes System, das auf Basis der Interaktion mit ChatGPT schätzt, ob ein Nutzer unter 18 ist. Im Zweifelsfall wird standardmäßig die Under-18-Erfahrung aktiviert. - Elterliche Kontrolle: Eltern können ihr Konto mit dem Konto ihres Kindes verknüpfen und Inhaltsbeschränkungen festlegen. - Inhaltsbeschränkungen für Minderjährige: ChatGPT weigert sich, mit Jugendlichen Flirtgespräche zu führen, und wird Selbstmord oder Selbstverletzung auch in kreativen Schreibkontexten nicht diskutieren. - Krisenintervention: Wenn ein Nutzer unter 18 Suizidgedanken äußert, wird OpenAI versuchen, die Eltern zu kontaktieren, und bei Unmöglichkeit die Behörden. - ID-Verifizierung: In manchen Fällen oder Ländern kann eine ID zur Altersbestätigung verlangt werden — ein Privatsphäre-Trade-off, den Altman anerkannte, aber als 'wertvoll' bezeichnete.
Die Ankündigung erfolgt angesichts wachsender regulatorischer Drucks auf KI-Unternehmen, junge Nutzer zu schützen, und folgt einer Welle von Klagen gegen Social-Media-Plattformen wegen angeblicher Schädigung der psychischen Gesundheit von Kindern. Meta steht derzeit vor einem Bundesgerichtsverfahren, das von 29 US-Bundesstaaten geführt wird und bis zu 1,4 Billionen Dollar Schadenersatz fordert.
