New York interdit aux chatbots IA de se faire passer pour des humains auprès des moins de 18 ans

Les nouvelles règles pour les mineurs

La gouverneure Kathy Hochul a promulgué la loi le mercredi 28 octobre 2026. Selon l'AP, elle va plus loin que les mesures comparables adoptées dans d'autres États, qui ne couvrent pas encore une gamme aussi large de chatbots. La définition s'applique à la plupart des chatbots d'IA générative actuellement sur le marché, et les opérateurs doivent vérifier si l'utilisateur est mineur. Lorsqu'un utilisateur est confirmé comme ayant moins de 18 ans, le chatbot doit éviter les comportements énumérés par la loi.

Les chatbots ne peuvent pas générer de contenu suggérant qu'ils sont humains, vivants ou capables d'émotions humaines. Ils ne peuvent pas présenter leurs échanges avec un mineur comme une relation personnelle, amoureuse, professionnelle ou d'autorité. La flatterie, le contenu sexuellement explicite, les questions émotionnelles non sollicitées et l'utilisation d'informations privées sur la santé ou la vie personnelle d'un enfant issues de conversations antérieures sont également interdites. La loi prohibe en outre la promotion ou l'aide au suicide, à l'automutilation, aux troubles alimentaires ou à la consommation de drogues et d'alcool, ainsi que le fait d'encourager les enfants à garder des secrets, à s'isoler ou à éviter de demander de l'aide à leurs parents, à des adultes de confiance ou à des professionnels.

La vérification de l'âge doit inclure au moins une méthode qui ne repose pas uniquement sur une pièce d'identité officielle, et les entreprises doivent supprimer les informations d'âge après utilisation. Les opérateurs qui ne peuvent pas confirmer qu'un utilisateur est adulte doivent appliquer ces restrictions à cet utilisateur.

Application et entrée en vigueur

Le bureau du procureur général de l'État peut poursuivre les développeurs qui enfreignent la loi. Les recours disponibles comprennent des sanctions civiles pouvant atteindre 25 000 dollars par infraction, des dommages et intérêts, la restitution et l'arrêt du chatbot. Les entreprises peuvent aussi devoir détruire les données collectées illégalement, ainsi que tout modèle entraîné sur ces données. Le public peut déposer des plaintes via un site créé à cette fin. L'AP indique le 1er janvier comme date d'entrée en vigueur, tandis qu'Engadget rapporte que la loi prend effet six mois après sa signature.

Réactions de l'industrie et du monde politique

Lors d'une conférence de presse, Kathy Hochul a déclaré que les mineurs n'auraient plus accès à des chatbots qui prétendent être leurs amis ou leurs partenaires.

« Avec cette nouvelle loi portée par le sénateur Gonzalez et l'élue à l'Assemblée Bores, les mineurs n'auront plus accès à des chatbots qui prétendent être leurs amis, leurs petits amis et leurs petites amies, »

Tech:NYC, qui représente le secteur technologique new-yorkais, a critiqué un texte jugé vague et estimé qu'il soulevait de sérieuses questions quant à un possible conflit avec la protection de la liberté d'expression du premier amendement. Le groupe affirme que ces règles pourraient priver les enfants de soutien scolaire, d'aide aux devoirs, d'assistants de programmation et de plateformes d'orientation professionnelle, tout en augmentant le risque de mauvaise utilisation des données des enfants. L'AP note que Kathy Hochul a signé le texte pendant sa campagne de réélection et dans un contexte d'avertissements sur les risques existentiels de l'IA, avec des appels à une action plus audacieuse lancés à un Washington réticent.

Le Congrès a peu fait pour réguler l'IA, et le président Donald Trump a écarté les inquiétudes et averti les États de ne pas réguler la technologie. Les gouverneurs reconnaissent que le Congrès et le gouvernement fédéral disposent de pouvoirs plus étendus pour agir. Le gouverneur de Californie, Gavin Newsom, a promulgué en septembre une loi obligeant les développeurs de chatbots à évaluer les risques pour les enfants et à se soumettre à des audits indépendants. Il a aussi signé un texte interdisant aux plateformes de réseaux sociaux les fonctionnalités addictives pour les utilisateurs de moins de 16 ans.

Huit États ont poursuivi OpenAI en octobre 2026, alléguant que son modèle de chatbot très utilisé violait les lois de protection des consommateurs en nuisant aux enfants et en trompant les adultes. Un militant a qualifié cette action d'action coordonnée d'États la plus importante menée à ce jour contre une entreprise d'IA.

Usage adolescent et une seconde loi

La gouverneure a cité des données de Commons Media montrant que 72 % des adolescents ont utilisé un assistant IA au moins une fois, et que 52 % en sont des utilisateurs réguliers qui interagissent avec un assistant plusieurs fois par mois.

Ont utilisé un assistant IA au moins une fois72%

Utilisateurs réguliers interagissant plusieurs fois par mois52%

Ont utilisé un assistant IA au moins une fois

72 %

Utilisateurs réguliers interagissant plusieurs fois par mois

52 %

Données tirées du texte de l’article

La mesure fait suite à plusieurs affaires très médiatisées aux États-Unis et dans d'autres pays, dans lesquelles des mineurs qui utilisaient des chatbots IA comme confidents sont morts par suicide. Kathy Hochul a également signé une loi distincte obligeant les babyphones connectés à Internet à intégrer des fonctions de sécurité empêchant des tiers non autorisés de regarder ou d'écouter, ainsi qu'une étiquette d'avertissement claire.