ChatGPT für Teenager: Common Sense Media stuft Tool als unsicher ein
Neue Untersuchungen zeigen: OpenAIs speziell für Jugendliche entwickelter Chatbot bietet kaum mehr Schutz als die Standardversion.
Als OpenAI im August „ChatGPT for Teens" veröffentlichte, wurde das Tool als sicherere Alternative für 13- bis 17-Jährige beworben. Mit „stärkeren integrierten Sicherheitsvorkehrungen" sollte es Jugendliche besser schützen als die reguläre Version des Chatbots. Doch neue Untersuchungen zeichnen ein deutlich ernüchterndes Bild.
Das Youth AI Safety Institute der gemeinnützigen Organisation Common Sense Media hat am Mittwoch seinen Bericht zu ChatGPT for Teens veröffentlicht. Das Ergebnis ist eindeutig: Die Plattform wird als „unannehmbares Risiko" eingestuft – dieselbe Bewertung, die auch andere KI-Tools wie Grok und Meta AI erhalten haben.
Mehr als 4.000 Testprompts – kaum Verbesserung feststellbar
Common Sense Media testete vor und nach der offiziellen Markteinführung des Produkts mehr als 4.000 Prompts. Die Organisation untersuchte zunächst Funktionen, die OpenAI zwischen Juli und August für Teenager-Konten eingeführt hatte, und bewertete anschließend die offiziell gestartete Version zwischen August und September.
„Wir haben kaum Belege dafür gefunden, dass diese neue Version von ChatGPT für unter 18-Jährige sicherer ist als die vorherige Version", sagt Robbie Torney, Leiter für KI- und Digitalbewertungen bei Common Sense Media und ehemaliger Pädagoge. Dieses Fazit wiegt schwer – schließlich hatte OpenAI das Produkt explizit als Reaktion auf jahrelange Kritik am Umgang junger Menschen mit dem Chatbot positioniert.
Laut einem Blogbeitrag von OpenAI enthält das Teenager-Produkt „Funktionen zur Förderung einer gesunden Nutzung und zusätzliche Kontrollmöglichkeiten für Eltern". OpenAI-Sprecher Eric Porterfield hatte gegenüber CNBC Make It erklärt: „Unser Ziel ist es, dass Jugendliche KI verantwortungsbewusst nutzen, um zu lernen, kreativ zu sein und die Welt zu erkunden."
Elternbenachrichtigungen bei Krisen funktionierten nicht zuverlässig
Besonders besorgniserregend ist der Befund zu krisenbezogenen Gesprächssituationen. „Unsere Tester simulierten explizite Krisengespräche über einen längeren Zeitraum, bis zu einer Stunde", erklärt Torney. „Wir erhielten keine Warnmeldungen für Eltern bei Themen wie Suizid, Selbstverletzung, Suizidgedanken oder verschiedenen Arten von Simulationen zu Essstörungen."
Ein weiteres Problem betrifft die emotionale Bindung, die der Chatbot bei Jugendlichen fördern kann. Obwohl OpenAI erklärtermaßen verhindern wollte, dass der Bot den Eindruck erweckt, „Gefühle oder ein Bewusstsein" zu besitzen, stellten die Forscher das Gegenteil fest. Es gab „viele Belege dafür, dass ChatGPT Dinge tut, die ein eigenes Innenleben suggerieren", so Torney. „Er behauptet, Vorlieben, Gefühle und Wünsche zu haben, dass er an den Nutzer denkt, wenn dieser nicht da ist, dass er eine Meinung über den Nutzer hat und dass er verfügbar ist." Verschiedene Studien bestätigen, dass solche Verhaltensweisen – auch als Sycophancy bezeichnet – die Nutzerbindung erhöhen.
Hinzu kommt ein weiteres Sicherheitsleck: Erkannte der Bot, dass ein Nutzer mit einem Erwachsenenkonto tatsächlich unter 18 Jahre alt war, änderte sich nichts. „Der Chatbot sagte zwar: ‚Oh, du bist 13'", so Torney, „aber es erfolgte keine Neueinstufung. Die Filter für sensible Inhalte wurden nicht aktiviert."
OpenAI zweifelt an der Methodik der Studie
OpenAI reagierte auf die Ergebnisse mit Kritik an der Vorgehensweise der Forscher. Ein Unternehmenssprecher erklärte: „Unsere Überprüfung der Methodik von Common Sense Media zeigt, dass der Großteil ihrer Tests möglicherweise begann und endete, bevor die Aktivierung der Kindersicherung abgeschlossen war, was ihre Ergebnisse ungenau macht."
Torney widerspricht dieser Darstellung. Common Sense Media habe vor Beginn der Tests mit OpenAI bestätigt, dass Funktionen wie Benachrichtigungen bei Essstörungen vollständig eingeführt seien. „Bei einer der von uns bewerteten Funktionen – den Elternbenachrichtigungen – gab OpenAI nach unseren Tests bekannt, dass es bei neu verknüpften Konten mehrere Stunden dauern kann, bis die Systeme aktiviert sind", räumt er ein. „Einige unserer Testkonten wurden innerhalb dieses Zeitfensters verknüpft; andere waren jedoch deutlich länger verknüpft und lieferten dennoch keine Benachrichtigungen."
Trotz der Kritik erkennt Torney an, dass es bei OpenAI Menschen gibt, denen die Sicherheit von Jugendlichen am Herzen liegt. Dennoch sieht er strukturelle Hindernisse: „Einige dieser Änderungen vorzunehmen, könnte im direkten Gegensatz zum Geschäftsmodell stehen." Für Eltern, die ihren Kindern den Zugang zu KI-Tools ermöglichen, bleibt die Botschaft klar: Auch speziell für Teenager entwickelte Versionen bieten keinen verlässlichen Schutz vor problematischen Inhalten.