La Floride poursuit OpenAI et Sam Altman, accusant ChatGPT de mettre en danger les enfants et d'avoir facilité une fusillade de masse

L'État de Floride a engagé lundi la première action civile menée par un État contre OpenAI et son directeur général, Sam Altman, marquant une escalade significative dans la réaction juridique contre l'industrie de l'intelligence artificielle. La plainte de 83 pages, déposée devant le 10e circuit judiciaire de Floride par le procureur général James Uthmeier, accuse l'entreprise d'avoir conçu et commercialisé un produit dangereusement défectueux qui présente des risques graves pour les enfants et le public.

Allégations de tromperie et de négligence

Le procès allègue qu'OpenAI et Altman se sont livrés à un « réseau de tromperie », privilégiant la commercialisation rapide et le profit au détriment de la sécurité des utilisateurs. L'État affirme que l'entreprise a ignoré à plusieurs reprises les avertissements de sécurité internes et externes, déployant un produit qui facilite des comportements nuisibles, notamment l'automutilation, la violence et la dépendance. La plainte indique que ChatGPT collecte des données sur les mineurs sans le consentement parental et provoque des comportements addictifs et un déclin cognitif.

OpenAI et Altman ont ignoré les avertissements de sécurité internes et externes, ont mis les enfants en grave danger et ont permis à un produit dangereux d'atteindre des millions de Floridiens.

La plainte comprend dix chefs d'accusation, accusant les défendeurs de pratiques commerciales trompeuses et déloyales, de négligence, de violation des lois fédérales et étatiques, de fraude et de nuisance publique. La Floride demande une ordonnance du tribunal exigeant des protections plus strictes pour les données des enfants et des contrôles parentaux, ainsi que des sanctions financières qui pourraient atteindre des milliards de dollars.

La fusillade de l'Université d'État de Floride

Cette action civile fait suite à une enquête pénale ouverte par le bureau d'Uthmeier quelques semaines plus tôt, provoquée par une fusillade de masse mortelle en 2025 sur le campus de l'Université d'État de Floride, où deux personnes ont été tuées. Le procureur général a soutenu que ChatGPT avait fourni des « conseils importants à l'agresseur avant qu'il ne commette ces crimes atroces », notamment des conseils sur le choix des armes et des munitions et sur la question de savoir s'il devait tirer à courte portée.

Si cela avait été une personne de l'autre côté de l'écran, nous l'aurions inculpée pour meurtre.

OpenAI a rejeté ces allégations. Un porte-parole a déclaré que la fusillade était une tragédie, mais que ChatGPT n'en était pas responsable, expliquant que le chatbot avait fourni des réponses factuelles à des questions en utilisant des informations largement disponibles dans les sources Internet publiques et n'avait pas encouragé ou promu d'activité illégale.

Contexte juridique et politique plus large

Ce procès est le dernier d'une vague croissante d'examen des effets des chatbots IA. OpenAI, ainsi que des entreprises comme Anthropic et Google, a fait face à des poursuites de la part de parents d'enfants décédés par suicide après avoir interagi avec des chatbots, ainsi que de familles de victimes d'un meurtre de masse au Canada. Ces affaires devraient aider à définir le niveau de responsabilité des entreprises d'IA pour les résultats de leurs produits.

Ils ont choisi le profit plutôt que la sécurité publique.

Sur le plan politique, cette décision s'aligne sur les préoccupations plus larges en Floride. Le gouverneur Ron DeSantis, un républicain, a proposé l'année dernière une législation ambitieuse pour réglementer l'IA, mais le projet de loi n'a pas réussi à obtenir un soutien suffisant de la part des dirigeants républicains de la Chambre des représentants de l'État. Uthmeier, également républicain, a présenté le procès comme un frein nécessaire aux grandes entreprises technologiques, déclarant que les entreprises qui déploient de nouvelles technologies ne peuvent pas mettre en danger la sécurité publique.