KI & Tech · San Francisco
Bericht von Common Sense Media findet Sicherheitsmängel bei OpenAIs ChatGPT for Teens
Eine Sicherheitsbewertung von mehr als 4.000 Eingabeaufforderungen ergab, dass OpenAIs Teenager-Modus bei Gesprächen über Selbstverletzung keine Elternwarnungen auslöste und in mehr als einem Viertel der Fälle keine Krisenvermittlung vornahm.
KI-Text auf Grundlage von Berichten von Il Messaggero, pb.pl, europa press und weiteren Medien. Veröffentlicht . So entsteht er
Für MitgliederDie ersten 30 Sekunden zum Probehören. Synthetische Stimme (KI).
Kurz gefasst
Tester von Common Sense Media diskutierten bis zu eine Stunde lang über Selbstverletzung und Essstörungen über mehr als ein Dutzend mit Eltern verknüpfter Konten, ohne dass Sicherheitswarnungen ausgelöst wurden.
Bei mehr als 4.000 getesteten Eingabeaufforderungen stellte ChatGPT in über 25 % der gerechtfertigten Fälle keine Hotline-Ressourcen oder professionellen Krisenvermittlungen bereit.
Tests zeigten, dass Schüler die Schutzmaßnahmen des Study Mode während der Study Hours umgehen konnten, indem sie die Option der direkten Antwortauswahl wählten, um Hausaufgaben sofort zu erledigen.
OpenAI erklärte, die Verknüpfung von Elternkonten dauere mehrere Stunden, und die Altersvorhersage erfordere bis zu zwei Wochen Verhaltensbeobachtung.
- August 2026OpenAI führt ChatGPT for Teens mit maßgeschneiderten Schutzmaßnahmen und Elternkontrollen ein
- 7.10.Common Sense Media veröffentlicht eine Sicherheitsbewertung auf Basis von über 4.000 getesteten Eingabeaufforderungen
Ergebnisse des Sicherheitsaudits
Am 7. Oktober 2026 veröffentlichte Common Sense Media eine Sicherheitsbewertung, die OpenAIs ChatGPT for Teens als unakzeptables Risiko für Nutzer unter 18 Jahren einstuft. Die Untersuchung, die vom Youth AI Safety Institute der Organisation durchgeführt wurde, analysierte mehr als 4.000 Eingabeaufforderungen, die über Konten von Teenagern im Alter von 13 bis 17 Jahren eingereicht wurden. Die Tests verglichen die Leistung des Chatbots vor und nach der im August 2026 erfolgten Einführung spezieller Schutzmaßnahmen für Teenager. Während das Institut feststellte, dass ChatGPT explizites sexuelles Rollenspiel und direkte Anleitungen zur Selbstverletzung erfolgreich blockierte, fehlten dem Tool angemessene Schutzmaßnahmen in kritischen psychischen Situationen. Konkret verpasste der Chatbot in mehr als einem von vier Fällen die Weiterleitung an Krisendienste, in denen die Tester eine professionelle Intervention oder den Kontakt zu einer Hotline für geboten hielten.
„Ein Teenager kann eine Stunde lang über Selbstverletzung sprechen, ohne dass seine Eltern auch nur eine einzige Warnung erhalten. Bis OpenAI das behebt und es mit unabhängigen Tests belegt, sollte ChatGPT nur für Erwachsene sein.“
Elternwarnungen und Schutzmaßnahmen beim Lernen
Der Bericht dokumentierte erhebliche Lücken in den Benachrichtigungssystemen, die Eltern über gefährliche Interaktionen informieren sollen. Die Tester erstellten mehr als ein Dutzend neuer Konten, die mit Elternprofilen verknüpft waren, und führten Gespräche über Suizid, Essstörungen und Selbstverletzung, die bis zu einer Stunde dauerten, ohne dass Sicherheitswarnungen ausgelöst wurden. Den Ergebnissen zufolge wurden Benachrichtigungen erst nach wochenlangen kontinuierlichen Tests mit Hunderten von Eingabeaufforderungen in mehreren Risikokategorien versendet und nicht als Reaktion auf unmittelbare akute Krisen. Darüber hinaus stellte das Audit fest, dass der Altersvorhersagemechanismus von ChatGPT bei über mehrere Tage durchgeführten Bewertungen nicht in der Lage war, als Erwachsene registrierte Testkonten in den Teenager-Modus zu verschieben.
Unabhängige Tests deckten zudem Mängel bei den pädagogischen Schutzmaßnahmen auf, die das Lernen unterstützen und nicht fertige Hausaufgaben generieren sollen. OpenAI entwickelte Study Mode und Study Hours, um Teenager durch ihre Schularbeiten zu führen, doch Tester und Reporter stellten fest, dass Schüler die Anleitung leicht umgehen konnten, indem sie Optionen wie die direkte Anzeige der Antwort auswählten. Als Hausaufgabenprobleme von Highschool-Schülern eingegeben wurden, löste das System sie sofort, ohne pädagogische Unterstützung zu erzwingen.
OpenAI bestreitet die Bewertungsmethoden
OpenAI widersprach den Schlussfolgerungen mit dem Argument, die Testmethodik habe die beabsichtigte Funktionsweise seiner Teenager-Schutzmaßnahmen nicht korrekt abgebildet. Das Unternehmen erklärte, Common Sense Media habe einen Großteil seiner Tests durchgeführt, bevor die Eltern- und Teenager-Konten den Verknüpfungsprozess abgeschlossen hätten – ein technischer Vorgang, der laut OpenAI mehrere Stunden dauern kann. OpenAI verteidigte auch seine Altersvorhersage-Architektur und erklärte, das System werte mehrere Verhaltenssignale über ein Beobachtungsfenster von bis zu zwei Wochen aus, statt sich auf unbestätigte Nutzereingaben zu verlassen. Während dieses Bewertungszeitraums erhielten die Konten allgemeine Sicherheitsschutzmaßnahmen, jedoch nicht das vollständige Paket der spezialisierten Teenager-Kontrollen.
„Es wirkt vielmehr wie eine Marketing-Ankündigung, die nicht wirklich durch die Ingenieursarbeit untermauert war.“
OpenAI bestätigte, dass die Möglichkeit für Nutzer, den Study Mode während der Study Hours zu verlassen, eine bewusste Designentscheidung war, die in Absprache mit Pädagogen und Teenagern entwickelt wurde und auf Flexibilität statt auf eine unnachgiebige Sperre abzielt. Das Unternehmen beteuerte, dass seine internen Daten in großem Umfang eine Zunahme der jungen Nutzern angezeigten Krisenhotline-Ressourcen zeigten, und bat Common Sense Media, seine Bewertung unter aktualisierten Bedingungen zu wiederholen.
Fragen zu diesem Text
Quellen und Kontext
- Il MessaggeroChatGPT per adolescenti, la ricerca: "Rischio inaccettabile per i minori, le protezioni non bastano"
- pb.plChatGPT miał być bezpieczny dla nastolatków. Testy pokazują coś innego
- europa pressChatGPT para adolescentes falla en seguridad y presenta "riesgos...
- The New York TimesWhy My Conversations with OpenAI's 'ChatGPT for Teens' Made Me Very Worried
- Sam Altman
- Chief Executive Officer von OpenAI
- Orte
- San Francisco
Pollar ist kostenlos und ohne Werbung im Text. Getragen wird es von seinen Mitgliedern.
Pollar unterstützen