Un rapport de Common Sense Media met en évidence des défaillances de sécurité dans ChatGPT for Teens d'OpenAI

Constats de l'audit de sécurité

Le 7 octobre 2026, Common Sense Media a publié une évaluation de sécurité qui classe ChatGPT for Teens d'OpenAI comme un risque inacceptable pour les utilisateurs de moins de 18 ans. L'évaluation, menée par le Youth AI Safety Institute de l'organisation, a analysé plus de 4 000 requêtes envoyées depuis des comptes enregistrés par des adolescents de 13 à 17 ans. Les tests ont comparé les performances du chatbot avant et après l'introduction, en août 2026, de protections dédiées aux adolescents. Si l'institut a constaté que ChatGPT bloquait efficacement les jeux de rôle sexuels explicites et les instructions directes d'automutilation, l'outil n'a pas apporté de garde-fous suffisants dans des situations psychologiques critiques. Le chatbot a notamment omis d'orienter vers des services de crise dans plus d'un cas sur quatre où les testeurs avaient jugé qu'une intervention professionnelle ou un contact avec une ligne d'écoute était nécessaire.

Un adolescent peut passer une heure à parler d'automutilation sans que son parent reçoive la moindre alerte. Tant qu'OpenAI ne corrige pas cela et ne le prouve pas par des tests indépendants, ChatGPT devrait être réservé aux adultes.

Alertes parentales et garde-fous de l'étude

Le rapport documente d'importantes lacunes dans les systèmes de notification censés informer les parents des interactions dangereuses. Les testeurs ont créé plus d'une douzaine de nouveaux comptes liés à des profils parentaux et ont eu des conversations sur le suicide, les troubles alimentaires et l'automutilation pouvant durer jusqu'à une heure sans déclencher la moindre alerte de sécurité. Selon les conclusions, les notifications n'ont été envoyées qu'après des semaines de tests continus portant sur des centaines de requêtes dans plusieurs catégories de risque, et non en réponse à des crises aiguës immédiates. L'audit observe en outre que le mécanisme de prédiction d'âge de ChatGPT n'a pas fait basculer en mode ado des comptes de test enregistrés comme adultes, lors d'évaluations menées sur plusieurs jours.

Les tests indépendants ont aussi révélé des faiblesses dans les protections pédagogiques censées accompagner l'apprentissage plutôt que produire des devoirs tout faits. OpenAI a conçu Study Mode et Study Hours pour guider les adolescents dans leur travail scolaire, mais les testeurs et des journalistes ont constaté que les élèves pouvaient facilement contourner cet accompagnement en choisissant des options comme l'affichage direct de la réponse. Lorsque des exercices de lycée étaient saisis, le système les résolvait immédiatement sans imposer d'aide pédagogique.

OpenAI conteste les méthodes d'évaluation

OpenAI a rejeté ces conclusions, affirmant que la méthodologie de test ne reflétait pas fidèlement le fonctionnement prévu de ses garde-fous pour adolescents. L'entreprise indique que Common Sense Media a réalisé une grande partie de ses tests avant que les comptes parents et adolescents n'aient achevé le processus de liaison, une procédure technique qui, selon OpenAI, peut demander plusieurs heures. OpenAI défend aussi son architecture de prédiction d'âge, expliquant que le système évalue plusieurs signaux comportementaux sur une fenêtre d'observation allant jusqu'à deux semaines plutôt que de se fier à des informations non vérifiées fournies par l'utilisateur. Pendant cette période d'évaluation, les comptes bénéficient de protections générales, mais pas de l'ensemble complet des contrôles spécialisés pour adolescents.

Cela ressemble bien davantage à une annonce marketing qui n'était pas étayée par le travail d'ingénierie.

OpenAI confirme que la possibilité pour l'utilisateur de quitter Study Mode pendant les Study Hours est un choix de conception assumé, élaboré en concertation avec des enseignants et des adolescents, dans un souci de souplesse plutôt que de verrouillage strict. L'entreprise affirme que ses données internes à grande échelle montrent une augmentation des ressources d'aide en cas de crise affichées aux jeunes utilisateurs, et demande à Common Sense Media de refaire son évaluation dans des conditions actualisées.