KI & Tech · San Francisco
OpenAI startet ChatGPT für Teens mit automatischer Alterserkennung und elterlichen Kontrollen
Der eingeschränkte Modus begrenzt automatisch emotionale Gespräche, schränkt sensible Themen ein und fügt Lerntools für Nutzer im Alter von 13 bis 17 Jahren in kostenlosen und kostenpflichtigen Tarifen hinzu.
KI-Text auf Grundlage von Berichten von Franceinfo, 20minutes, TVN24 und weiteren Medien. Geändert . So entsteht er
Für MitgliederDie ersten 30 Sekunden zum Probehören. Synthetische Stimme (KI).
Kurz gefasst
OpenAI wertet mehr als 2.000 Verhaltenssignale aus, darunter Kontos Alter und Verbindungszeiten, um den Teenager-Modus automatisch auf Nutzer unter 18 Jahren anzuwenden.
Der Chatbot darf sich nicht als Freund bezeichnen oder Emotionen simulieren, und die Sprachinteraktion ist standardmäßig deaktiviert.
Eltern können Ruhezeiten festlegen und von Menschen moderierte Benachrichtigungen über Risiken wie Essstörungen erhalten, während der Studienmodus Hausaufgaben durch Fragen statt direkter Antworten anleitet.
Die Einführung erfolgt vor dem Hintergrund von Klagen, wie der der Familie des 16-jährigen Adam Raine, sowie einer laufenden FTC-Untersuchung, die im September 2025 eingeleitet wurde.
- November 2025Character.AI stellt offene Chat-Interaktionen für Nutzer unter 18 Jahren ein
- April 2026Google verschärft die Sicherheitsvorkehrungen für Gemini nach einer Bewertung durch Common Sense Media
- 18.08.OpenAI führt ChatGPT für Teens auf kostenlosen und kostenpflichtigen Konten ein
Automatische Aktivierung und Alterserkennung
OpenAI hat am Dienstag ChatGPT für Teens eingeführt, einen speziellen Modus mit eingeschränktem Inhalt, Lerntools und elterlicher Aufsicht für Nutzer im Alter von 13 bis 17 Jahren in kostenlosen und kostenpflichtigen Tarifen. Der Modus wird automatisch aktiviert, wenn sich ein Kontoinhaber als Minderjähriger registriert. Das Unternehmen analysiert außerdem mehr als 2.000 Verhaltenssignale, darunter das Alter des Kontos und typische Anmeldezeiten, um abzuschätzen, ob ein nicht verifizierter Nutzer unter 18 Jahre alt ist. Erwachsene, die fälschlicherweise der Teenager-Umgebung zugewiesen wurden, müssen eine Altersverifikation durchführen, um den Standardzugang wiederherzustellen.
Einschränkung emotionaler Bindung und sensibler Inhalte
Die Konfiguration führt betriebliche Grenzen ein, um zu verhindern, dass Minderjährige emotionale oder persönliche Bindungen zum System aufbauen. ChatGPT für Teens darf sich weder als Freund bezeichnen, romantische Formulierungen verwenden noch andeuten, dass es Gefühle oder Bewusstsein besitzt. OpenAI hat die Sprachinteraktion standardmäßig deaktiviert, um menschenähnliche Eigenschaften zu reduzieren.
„Wir verstärken die Sicherheitsmaßnahmen, um zu verhindern, dass ChatGPT andeutet, persönliche Gefühle gegenüber dem Nutzer zu haben oder dass es bewusst ist oder Emotionen empfindet.“
Inhaltsfilter schränken Themen ein, die Selbstverletzung, Essstörungen, Gewalt, explizites sexuelles Material und gefährliche Aktivitäten betreffen. Jugendliche erhalten Warnungen, wenn sie versuchen, sensible Bilder hochzuladen. Systemaufforderungen greifen auch bei längeren Sitzungen ein und schlagen nach 90 Minuten ununterbrochener Aktivität innerhalb eines Dreistundenfensters eine Pause vor.
Lerntools und elterliche Aufsicht
Um zu verhindern, dass Schüler das Tool nutzen, um Schulaufgaben zu umgehen, hat OpenAI einen Studienmodus und verantwortungsvolle Hausaufgabenerinnerungen integriert. Anstatt direkt auf Aufforderungen zu antworten, stellt der Chatbot Leitfragen, um die Nutzer Schritt für Schritt durch das Lernmaterial zu führen. Das System führt auch Lerntimer und Lernvisualisierungen ein, die das selbstständige Üben strukturieren sollen.
„Jugendliche sollten KI nutzen können, um zu lernen, zu kreieren und zu erkunden. Aber dieser Zugang sollte mit Schutzmaßnahmen einhergehen, die ihre Entwicklungsstufe widerspiegeln, reale Beziehungen stärken und eine gesunde Nutzung im Laufe der Zeit unterstützen.“
Eltern können Konten verknüpfen, um Ruhezeiten und festgelegte Lernzeiten festzulegen, in denen der Zugriff blockiert oder fokussiert ist. Verknüpfte Erziehungsberechtigte erhalten Benachrichtigungen, wenn das System risikoreiche Situationen erkennt, wie Anzeichen von Selbstverletzung oder Essstörungen, können jedoch nicht die vollständigen Gesprächsprotokolle einsehen. Menschliche Moderatoren überprüfen und filtern die Alarmdetails, bevor sie die Eltern benachrichtigen.
Rechtliche Prüfung und branchenweite Ansätze
Die Einführung erfolgt vor dem Hintergrund rechtlicher und regulatorischer Prüfungen hinsichtlich der Auswirkungen künstlicher Intelligenz auf die psychische Gesundheit von Jugendlichen. OpenAI, das im Vorfeld seines Börsengangs mit einer Bewertung von 852 Milliarden Dollar bewertet wird, sieht sich Klagen von Familien ausgesetzt, die behaupten, dass seine Technologie zu Schäden beigetragen habe. In einem Fall reichten die Eltern des 16-jährigen Adam Raine in Kalifornien Klage ein, in der sie behaupteten, ChatGPT habe eine Rolle beim Selbstmord ihres Sohnes im April 2025 gespielt.
Die Aufsichtsbehörden haben ihre Kontrolle ausgeweitet; die US-amerikanische Federal Trade Commission leitete im September 2025 eine Untersuchung zur Sicherheit Minderjähriger bei sieben Chatbot-Entwicklern ein. Konkurrierende Unternehmen sind unterschiedliche Wege gegangen: Character.AI stellte im November 2025 offene Chats für Minderjährige ein, Anthropic beschränkt Claude auf Erwachsene, und Google verschärfte im April 2026 nach einer externen Bewertung die Schutzmaßnahmen für Minderjährige bei Gemini. In der Europäischen Union steht die automatisierte Altersschätzung im Rahmen der Datenschutzbestimmungen noch vor der Einführung.
Dieser Artikel gehört zu einem Strang
KI: Fähigkeiten, Regulierung, Arbeit
Was sich seit diesem Eintrag geändert hat:
- 16.11Zwischenregelung des Handelsministeriums verlangt Lizenzen für fortschrittliche Chip-Lieferungen in fünf Länder, schränkt Remote-Zugriff ein
- 16.11USA und neun Partner unterzeichneten San-Francisco-Erklärung; EU und drei Staaten treten nächste Woche bei
- 16.11Virkkunen sagt, Kommission könnte formelle KI-Gesetz-Untersuchungen gegen OpenAI und Anthropic einleiten
Fragen zu diesem Text
Quellen und Kontext
- FranceinfoOpenAI encadre l'usage de ChatGPT pour les adolescents, un an après une plainte accusant l'assistant d'avoir poussé un jeune Américain au suicide
- 20minutesCritiquée, OpenAI lance une version de ChatGPT pour les adolescents
- TVN24OpenAI zaostrza ochronę nastolatków. Tak zmieni się ChatGPT
- The New York TimesOpenAI presenta 'ChatGPT para adolescentes'
- Adam Raine
- Ein 16-jähriger Teenager aus Kalifornien, dessen Eltern eine Klage gegen OpenAI eingereicht haben
- Orte
- San Francisco
Pollar ist kostenlos und ohne Werbung im Text. Getragen wird es von seinen Mitgliedern.
Pollar unterstützen