La Cour suprême du Nouveau-Mexique condamne un avocat à 5 000 $ d'amende pour des témoins fabriqués par ChatGPT dans un appel pour meurtre

Sanctions pour témoignages fabriqués

La Cour suprême du Nouveau-Mexique a déclaré l'avocat pénaliste Stephen Aarons en outrage direct au tribunal, lui a infligé une amende de 5 000 $ et l'a renvoyé devant une commission disciplinaire des avocats de l'État pour enquête. Aarons, avocat privé basé à Santa Fe avec plus de 40 ans d'expérience juridique, a soumis un mémoire d'appel contenant de faux témoignages et des témoins fabriqués générés par ChatGPT d'OpenAI. Les juges ont déclaré qu'Aarons n'avait pas vérifié les affirmations factuelles et l'autorité légale dans son dossier avant de le soumettre au tribunal. Le mémoire a été déposé au nom d'Oscar Renee Sandoval, qui a plaidé non coupable du meurtre de Shiereen Al-Jibury avant d'être reconnu coupable et condamné à la prison à vie en février 2025.

Étendue des hallucinations de l'IA

Les conclusions de la cour ont détaillé de multiples cas où le programme d'intelligence artificielle a fabriqué des témoins et des déclarations. Aarons a admis que le mémoire d'appel contenait de faux témoignages attribués à des personnes fictives, notamment l'agente Michelle Amarillo, l'agent Sanchez, Manal Al-Jibury et Teresa Marquez. En outre, le mémoire contenait des allégations fabriquées de menaces soumises sous les noms de Danny Stanton et Linda Stanton, ainsi qu'un témoignage inventé concernant le tireur portant un pantalon foncé et une chemise blanche. Aarons a également déformé l'autorité légale dans les citations de jurisprudence, allant au-delà des erreurs de citation standard en injectant de faux faits de procès dans une procédure pénale.

Réponse judiciaire et audience

Aarons a déclaré avoir introduit une transcription informatisée du procès pour meurtre ainsi que des documents connexes dans ChatGPT, croyant que le logiciel produirait un résumé fiable du procès. Lors d'une audience tenue le 21 août pour examiner le mémoire, la cour a contesté Aarons sur son manque de supervision et sa connaissance de base des erreurs des logiciels génératifs. La juge C. Shannon Bacon a directement interrogé l'avocat sur son incapacité à reconnaître les risques bien documentés de l'intelligence artificielle.

Maître, regardez-vous les informations ? Écoutez-vous la radio ? Lisez-vous quoi que ce soit sur ce qui se passe dans le monde ? Parce que le problème des avocats qui se fient aux hallucinations de l'IA est une histoire à la une tous les jours.

La Cour suprême a conclu dans son ordonnance de mercredi qu'Aarons a fait preuve d'un manque de remords et n'a pas informé son client des fausses représentations factuelles et juridiques.

Appel réaffecté et renvoi disciplinaire

Après la décision, Aarons a reconnu ne pas avoir compris comment les modèles d'intelligence artificielle générative inventent des informations inexistantes.

Je suis désolé mais j'espère que la commission disciplinaire considérera qu'il s'agit d'une erreur honnête. C'est une leçon pour tous les professionnels qui se fient à cette technologie puissante mais parfois instable.

L'État du Nouveau-Mexique a d'abord demandé la suppression de parties du mémoire d'Aarons quelques semaines après qu'il l'a soumis en août 2025. L'appel pour meurtre de Sandoval reste actif dans le système judiciaire, et l'affaire a été officiellement réaffectée le 2 septembre 2026 à l'avocate commise d'office du Nouveau-Mexique Kim Chavez Cook.