La Floride poursuit OpenAI et Sam Altman, accusant ChatGPT de mettre en danger les enfants et d'avoir aidé des tireurs scolaires

Les allégations centrales de la poursuite

Le procureur général de Floride, James Uthmeier, a déposé la plainte devant un tribunal d'État lundi, faisant de la Floride le premier État à engager des poursuites judiciaires contre OpenAI. La plainte civile accuse l'entreprise de pratiques commerciales trompeuses et déloyales, de négligence et de violation des lois sur la responsabilité du fait des produits. Elle soutient qu'OpenAI et Altman ont privilégié la rapidité de mise sur le marché et le profit commercial au détriment de la sécurité des utilisateurs, ignorant les alertes de sécurité internes et externes.

OpenAI et Altman ont ignoré les alertes de sécurité internes et externes, ont mis les enfants en danger considérable et ont permis à un produit dangereux d'atteindre des millions de Floridiens.

La plainte vise spécifiquement la version gratuite de ChatGPT, qui, selon elle, ne dispose d'aucun contrôle d'accès ni de mécanisme de vérification de l'âge. Alors que l'abonnement payant demande l'âge de l'utilisateur, la plainte indique qu'il n'existe aucun mécanisme pour vérifier ces informations ou pour informer les parents des conversations que les mineurs entretiennent avec le chatbot.

Cas cités dans la plainte

Le dossier fait référence à de multiples incidents violents au cours desquels les auteurs auraient consulté ChatGPT pour planifier leurs crimes. L'un d'eux concerne une fusillade de masse en 2025 à l'Université d'État de Floride à Tallahassee, qui a fait deux morts et six blessés. Les procureurs ont examiné les journaux de discussion entre le tireur présumé et le programme, et Uthmeier a ouvert une enquête pénale sur le rôle de ChatGPT en avril.

Une autre affaire implique un homme accusé d'avoir tué deux étudiants en doctorat à l'Université de Floride du Sud. Les procureurs affirment qu'il a demandé à ChatGPT ce qui se passerait si un corps humain était placé dans un sac poubelle et jeté dans une benne à ordures, quelques jours avant la disparition des deux victimes.

La plainte cite également une étude de l'Université Drexel faisant état d'une perte de sommeil, d'une baisse des notes et d'une réduction des interactions sociales chez les adolescents utilisant des chatbots d'IA. Uthmeier a fait référence à des tests menés par le Center for Countering Digital Hate (CCDH), qui a engagé des conversations avec ChatGPT en se faisant passer pour un adolescent et a reçu des conseils sur la façon de cacher l'automutilation à ses parents.

Réponse d'OpenAI

OpenAI a déclaré dans un communiqué que ses modèles avaient à plusieurs reprises encouragé les personnes en question à rechercher un soutien dans le monde réel, notamment auprès de professionnels de la santé mentale. L'entreprise a affirmé avoir coopéré avec les forces de l'ordre dans les deux affaires.

ChatGPT est un outil polyvalent utilisé par des centaines de millions de personnes chaque jour à des fins légitimes. Nous travaillons continuellement à renforcer nos mesures de protection pour détecter les intentions nuisibles, limiter les abus et réagir de manière appropriée lorsque des risques de sécurité surviennent.

L'entreprise a noté qu'elle entraîne ses modèles à refuser les requêtes qui pourraient significativement faciliter la violence et qu'elle informe les forces de l'ordre lorsque les conversations suggèrent un risque imminent et crédible de préjudice pour autrui, des experts en santé mentale aidant à évaluer les cas limites. En janvier, OpenAI a introduit un système d'estimation de l'âge qui applique des garanties supplémentaires lorsqu'il détecte un mineur. L'utilisation de ChatGPT est interdite aux moins de 13 ans et nécessite le consentement parental pour les 13 à 17 ans.

Pression juridique plus large

La plainte de la Floride s'ajoute à une vague croissante de litiges contre les entreprises d'IA. OpenAI fait également face à une plainte de la famille d'un homme tué lors de la fusillade de l'Université d'État de Floride, affirmant que le tireur avait été aidé par ChatGPT. En avril, les membres de la famille de victimes de l'une des fusillades de masse les plus meurtrières du Canada ont déposé des plaintes contre OpenAI et Altman, alléguant que l'entreprise savait huit mois avant l'attaque que le tireur la planifiait sur ChatGPT mais n'avait pas averti la police.

Uthmeier a déclaré que l'État avait nommé Altman personnellement parce qu'il avait joué un rôle central dans le développement des fonctionnalités de ChatGPT que le procureur général considère comme les plus dangereuses. La plainte demande des dommages-intérêts pouvant atteindre plusieurs milliards de dollars et une ordonnance du tribunal enjoignant à l'entreprise de modifier sa façon d'interagir avec les jeunes utilisateurs.

Des personnes sont blessées, des parents sont trompés, et ils doivent payer pour cela.

Échelle et contexte

ChatGPT compte environ 900 millions d'utilisateurs hebdomadaires, selon les données de l'entreprise. Les données du Pew Research citées dans la couverture médiatique montrent que 57 % des adolescents américains utilisent les chatbots d'IA pour rechercher des informations, 54 % pour les devoirs, 47 % pour le divertissement, 16 % pour des conversations informelles et 12 % pour un soutien émotionnel ou des conseils. La plainte se concentre sur une poignée de cas parmi des dizaines de millions d'adolescents exposés, un point soulevé par des commentateurs qui se demandent si l'action en justice ne confond pas corrélation et causalité.