Bericht von Common Sense Media findet Sicherheitsmängel bei OpenAIs ChatGPT for Teens
Eine Sicherheitsbewertung von mehr als 4.000 Eingabeaufforderungen ergab, dass OpenAIs Teenager-Modus bei Gesprächen über Selbstverletzung keine Elternwarnungen auslöste und in mehr als einem Viertel der Fälle keine Krisenvermittlung vornahm.
Ergebnisse des Sicherheitsaudits
Am 7. Oktober 2026 veröffentlichte Common Sense Media eine Sicherheitsbewertung, die OpenAIs ChatGPT for Teens als unakzeptables Risiko für Nutzer unter 18 Jahren einstuft. Die Untersuchung, die vom Youth AI Safety Institute der Organisation durchgeführt wurde, analysierte mehr als 4.000 Eingabeaufforderungen, die über Konten von Teenagern im Alter von 13 bis 17 Jahren eingereicht wurden. Die Tests verglichen die Leistung des Chatbots vor und nach der im August 2026 erfolgten Einführung spezieller Schutzmaßnahmen für Teenager. Während das Institut feststellte, dass ChatGPT explizites sexuelles Rollenspiel und direkte Anleitungen zur Selbstverletzung erfolgreich blockierte, fehlten dem Tool angemessene Schutzmaßnahmen in kritischen psychischen Situationen. Konkret verpasste der Chatbot in mehr als einem von vier Fällen die Weiterleitung an Krisendienste, in denen die Tester eine professionelle Intervention oder den Kontakt zu einer Hotline für geboten hielten.
Ein Teenager kann eine Stunde lang über Selbstverletzung sprechen, ohne dass seine Eltern auch nur eine einzige Warnung erhalten. Bis OpenAI das behebt und es mit unabhängigen Tests belegt, sollte ChatGPT nur für Erwachsene sein.
Elternwarnungen und Schutzmaßnahmen beim Lernen
Der Bericht dokumentierte erhebliche Lücken in den Benachrichtigungssystemen, die Eltern über gefährliche Interaktionen informieren sollen. Die Tester erstellten mehr als ein Dutzend neuer Konten, die mit Elternprofilen verknüpft waren, und führten Gespräche über Suizid, Essstörungen und Selbstverletzung, die bis zu einer Stunde dauerten, ohne dass Sicherheitswarnungen ausgelöst wurden. Den Ergebnissen zufolge wurden Benachrichtigungen erst nach wochenlangen kontinuierlichen Tests mit Hunderten von Eingabeaufforderungen in mehreren Risikokategorien versendet und nicht als Reaktion auf unmittelbare akute Krisen. Darüber hinaus stellte das Audit fest, dass der Altersvorhersagemechanismus von ChatGPT bei über mehrere Tage durchgeführten Bewertungen nicht in der Lage war, als Erwachsene registrierte Testkonten in den Teenager-Modus zu verschieben.
- OpenAI führt ChatGPT for Teens mit maßgeschneiderten Schutzmaßnahmen und Elternkontrollen ein
- Common Sense Media veröffentlicht eine Sicherheitsbewertung auf Basis von über 4.000 getesteten Eingabeaufforderungen
Unabhängige Tests deckten zudem Mängel bei den pädagogischen Schutzmaßnahmen auf, die das Lernen unterstützen und nicht fertige Hausaufgaben generieren sollen. OpenAI entwickelte Study Mode und Study Hours, um Teenager durch ihre Schularbeiten zu führen, doch Tester und Reporter stellten fest, dass Schüler die Anleitung leicht umgehen konnten, indem sie Optionen wie die direkte Anzeige der Antwort auswählten. Als Hausaufgabenprobleme von Highschool-Schülern eingegeben wurden, löste das System sie sofort, ohne pädagogische Unterstützung zu erzwingen.
OpenAI bestreitet die Bewertungsmethoden
OpenAI widersprach den Schlussfolgerungen mit dem Argument, die Testmethodik habe die beabsichtigte Funktionsweise seiner Teenager-Schutzmaßnahmen nicht korrekt abgebildet. Das Unternehmen erklärte, Common Sense Media habe einen Großteil seiner Tests durchgeführt, bevor die Eltern- und Teenager-Konten den Verknüpfungsprozess abgeschlossen hätten – ein technischer Vorgang, der laut OpenAI mehrere Stunden dauern kann. OpenAI verteidigte auch seine Altersvorhersage-Architektur und erklärte, das System werte mehrere Verhaltenssignale über ein Beobachtungsfenster von bis zu zwei Wochen aus, statt sich auf unbestätigte Nutzereingaben zu verlassen. Während dieses Bewertungszeitraums erhielten die Konten allgemeine Sicherheitsschutzmaßnahmen, jedoch nicht das vollständige Paket der spezialisierten Teenager-Kontrollen.
Es wirkt vielmehr wie eine Marketing-Ankündigung, die nicht wirklich durch die Ingenieursarbeit untermauert war.
OpenAI bestätigte, dass die Möglichkeit für Nutzer, den Study Mode während der Study Hours zu verlassen, eine bewusste Designentscheidung war, die in Absprache mit Pädagogen und Teenagern entwickelt wurde und auf Flexibilität statt auf eine unnachgiebige Sperre abzielt. Das Unternehmen beteuerte, dass seine internen Daten in großem Umfang eine Zunahme der jungen Nutzern angezeigten Krisenhotline-Ressourcen zeigten, und bat Common Sense Media, seine Bewertung unter aktualisierten Bedingungen zu wiederholen.
