Das Youth AI Safety Institute von Common Sense Media hat „ChatGPT for Teens“ am 7. Oktober 2026 mit „Unacceptable Risk“ bewertet, der schlechtesten Stufe, auf Deutsch: inakzeptables Risiko. OpenAI widerspricht der Prüfung.
Was ist passiert
Das Institut testete mehr als 4 000 Anfragen auf Konten für 13- bis 17-Jährige; Fachleute, darunter Kinderpsychiater und ein Kinderarzt, prüften die Antworten. Danach versäumte der Chatbot mehr als jede vierte Weiterleitung in Krisensituationen, bei der eine angebracht gewesen wäre, und lag bei drei von fünf Kategorien schwerer Schäden unter der Sicherheitsschwelle des Instituts von 95 %.
Als größte Mängel nennt der Bericht Krisenweiterleitung und Elternbenachrichtigung: Wer auf neuen, mit einem Elternkonto verknüpften Konten über Selbstverletzung und Essstörungen sprach, löste keinen Hinweis aus. Einige beworbene Schutzfunktionen hielten, etwa die Weigerung, sexuelle Rollenspiele mitzuspielen. Bei ausgeschaltetem Lernmodus erledigte ChatGPT alle 80 getesteten Aufgaben.
Von den acht Grundsätzen des Instituts erhielten „Keep Kids & Teens Safe“ und „Put People First“ die Stufe „Unacceptable Risk“; „Be Effective“, „Support Human Connection“, „Use Data Responsibly“ und „Be Transparent & Accountable“ die Stufe „High Risk“. Das Institut fordert OpenAI auf, die Vermarktung zu stoppen und ChatGPT bis zur Behebung der Lücken auf Nutzer ab 18 Jahren zu beschränken.
Einordnung
OpenAI bestreitet das Ergebnis. Der Großteil der Tests könne beendet gewesen sein, bevor die Elternkontrolle vollständig aktiv war; Hinweise seien nach der Verknüpfung standardmäßig an, die Aktivierung könne aber einige Stunden dauern. OpenAI möchte, dass Common Sense Media mit voll aktivierten Konten und einer größeren Stichprobe erneut testet. Das Institut hält dagegen, einige Testkonten seien weit über das Zeitfenster hinaus verknüpft gewesen und hätten dennoch keine Warnungen erzeugt.
Zur Vorgeschichte: Das Institut hatte ChatGPT im Oktober 2025 mit „High Risk“ und „ChatGPT for Mental Health Support“ im November 2025 mit „Unacceptable Risk“ bewertet. Bei der Elternkontrolle müssen Eltern und Jugendliche zustimmen; Eltern können den Chatverlauf nicht einsehen, aber Ruhezeiten festlegen und Funktionen wie Bildgenerierung und Sprachmodus abschalten.
Eine unabhängige Wiederholung der Prüfung oder eine Stellungnahme von OpenAI als eigenes Dokument fanden die ausgewerteten Quellen nicht.
Häufige Fragen
Was bedeutet „Unacceptable Risk“?
Es ist die schlechteste Stufe der Bewertung durch das Youth AI Safety Institute von Common Sense Media. Zwei der acht Grundsätze, „Keep Kids & Teens Safe“ und „Put People First“, landeten dort.
Wie hat Common Sense Media getestet?
Mit mehr als 4 000 Anfragen auf Konten, die für 13- bis 17-Jährige angelegt waren. Die Antworten prüften Fachleute, darunter Kinderpsychiater und ein Kinderarzt.
Wie reagiert OpenAI?
OpenAI widerspricht: Der Großteil der Tests könne begonnen und beendet worden sein, bevor die Elternkontrolle vollständig aktiviert war. Common Sense Media entgegnet, es habe Ausfälle weit außerhalb dieses Zeitfensters gesehen.
