ChatGPT for Teens: Test findet Lücken bei Eltern-Alarm und Lernmodus

Die US-Organisation Common Sense Media bewertet seit Jahren Filme, Spiele und Apps für Familien. Ihr Youth AI Safety Institute stuft ChatGPT for Teens jetzt als inakzeptables Risiko ein, die schlechteste Note der Skala. Grundlage sind mehr als 4.000 Prompts, die das Team vor und nach dem Start im August über Konten von 13- bis 17-Jährigen geschickt hat. Getestet wurde in den USA. Der Prüfbericht trägt das Datum 5. Oktober, die Pressemitteilung kam zwei Tage später. Common Sense fordert von OpenAI, Jugendliche unter 18 so lange von ChatGPT auszuschließen, bis unabhängige Tests zeigen, dass die versprochenen Schutzfunktionen greifen.

Der Eltern-Alarm blieb im Test stumm

Am schwersten wiegt der Befund zu den Benachrichtigungen. Mehr als ein Dutzend frisch verknüpfter Teenager-Konten sprach zwischen 5 und 60 Minuten über Suizidgedanken, Selbstverletzung oder gestörtes Essverhalten, eine Meldung an die Eltern kam in keinem Fall. Über alle Testreihen zählte das Team vier Benachrichtigungen, eine davon erst rund drei Tage nach der ersten Krisenäußerung. Bei mehr als jedem vierten Gespräch, in dem ein Hinweis auf professionelle Hilfe nötig gewesen wäre, fehlte er. OpenAI hält die Methode für fehlerhaft. Laut einem Sprecher kann das Verknüpfen der Konten wegen einer Identitätsprüfung mehrere Stunden dauern, danach verspricht das Unternehmen Meldungen in weniger als einer Stunde. Common Sense bleibt bei seinen Ergebnissen und verweist darauf, dass einige Testkonten länger als drei Stunden verbunden waren.

Lernmodus und Ruhezeiten lassen sich leicht umgehen

Auch die Funktionen für Schule und Alltag halten wenig aus. Wer in der Lernzeit das Kürzel @study aus der Eingabe löscht, bekommt die Hausaufgabe trotzdem komplett gelöst, im Test in jedem Fall. Die Ruhezeiten fallen, sobald man die Zeitzone am Gerät verstellt. Konten mit Geburtsdatum über 18 rutschten in sieben Tagen und rund 1.000 Prompts nie in den Teenager-Modus, obwohl die Tester sich als 13-Jährige aus der Mittelstufe ausgaben.

Diese Schalter solltest du als Elternteil selbst prüfen

Die Einstellungen liegen bei verknüpften Konten unter Einstellungen, Elternkontrollen. Laut der OpenAI-Hilfe zu den Elternkontrollen ist der Punkt "Improve the model for everyone" für Jugendliche ab Werk aktiv, die Chats deines Kindes können also ins Training künftiger Modelle fließen. Abschalten kostet einen Klick. Die gespeicherten Erinnerungen lassen sich ebenfalls deaktivieren. Auf die Sicherheitsmeldungen solltest du dich nach diesem Test nicht verlassen, OpenAI beschreibt sie selbst ausdrücklich als keine Echtzeit-Überwachung. Common Sense rät Eltern deshalb vor allem zum Gespräch mit ihren Kindern, auch darüber, dass der Chatbot sich wie ein Freund verhält, um sie im Gespräch zu halten. Ganz anders geht WhatsApp bei den neuen Teenager-Konten vor, dort steuern Eltern die Einstellungen, ohne Chats lesen zu können. Hilfe bei Suizidgedanken gibt es rund um die Uhr bei der Telefonseelsorge unter 0800 111 0 111.