La Cour suprême du Nouveau-Mexique inflige une amende de 5 000 $ à un avocat pour des hallucinations de ChatGPT dans un appel pour meurtre
La Cour suprême du Nouveau-Mexique a déclaré l'avocat de la défense Stephen Aarons coupable d'outrage et lui a infligé une amende de 5 000 $ après qu'il a soumis un mémoire d'appel contenant des témoignages fabriqués générés par ChatGPT.
Décision d'outrage et sanction financière de la Cour suprême
La Cour suprême du Nouveau-Mexique a déclaré l'avocat de la défense Stephen Aarons coupable d'outrage au tribunal et lui a ordonné de payer une amende de 5 000 $ après avoir découvert qu'un dossier d'appel contenait des déclarations policières fabriquées et des témoignages fictifs générés par ChatGPT d'OpenAI. La haute cour de l'État a déterminé qu'Aarons n'avait pas effectué la vérification nécessaire des affirmations factuelles présentées dans sa soumission officielle, qui comprenait des déclarations de personnes qui n'avaient jamais témoigné au procès. Dans sa décision officielle, la cour a souligné qu'Aarons avait fait preuve d'indifférence envers les intérêts juridiques de son client en soumettant des résultats non vérifiés de l'intelligence artificielle, et les juges ont ordonné que son dossier soit formellement transmis au conseil de discipline du barreau de l'État pour une évaluation réglementaire plus approfondie.
- Oscar Rene Sandoval est reconnu coupable de meurtre et condamné à la prison à vie, après quoi Stephen Aarons prend en charge son appel.
- La Cour suprême du Nouveau-Mexique ordonne à Aarons d'expliquer les témoignages fabriqués apparaissant dans son mémoire d'appel.
- L'avocate de la défense publique Kim Chavez Cook est nommée pour remplacer Aarons comme conseil de la défense dans l'appel en cours de Sandoval.
- La Cour suprême du Nouveau-Mexique déclare Aarons coupable d'outrage au tribunal, lui impose une amende de 5 000 $ et le renvoie devant le conseil de discipline du barreau de l'État.
Résumé du dossier du procès et erreurs de l'intelligence artificielle
L'action disciplinaire découle d'un mémoire d'appel préparé pour le compte d'Oscar Rene Sandoval, qui maintient son innocence dans le meurtre de la mère de ses enfants. Sandoval a été reconnu coupable de meurtre l'année dernière et a reçu une peine d'emprisonnement à perpétuité, après quoi Aarons a pris en charge la représentation pour contester la condamnation. Aarons, qui dirige un cabinet d'avocats privé indépendant à Santa Fe, a cherché à rationaliser le processus d'appel en utilisant ChatGPT pour générer une distillation concise des débats du procès sous-jacent.
Lors de la préparation du mémoire d'appel, Aarons a saisi des déclarations de témoins transcrites, des transcriptions officielles du procès et d'autres pièces à conviction directement dans le logiciel OpenAI, en partant du principe que l'outil produirait un résumé fiable des débats du procès. Au lieu d'une condensation factuelle, le modèle linguistique a généré des témoins inexistants, des déclarations inventées attribuées à des agents des forces de l'ordre et des éléments narratifs spécifiques totalement absents du dossier judiciaire. Parmi les détails fabriqués présentés au tribunal figurait une description fictive affirmant que l'auteur portait un pantalon foncé et un t-shirt blanc lors de l'incident.
Intervention procédurale et désignation d'un nouvel avocat
La présence des éléments fabriqués a suscité un examen judiciaire le mois dernier lorsque la Cour suprême du Nouveau-Mexique a émis une ordonnance formelle exigeant qu'Aarons explique comment les déclarations non enregistrées et les témoignages synthétiques sont entrés dans le dossier juridique. Le recours en appel de Sandoval reste pendant devant la justice, bien qu'Aarons ne dirige plus la stratégie de défense. Début septembre, l'avocate de la défense publique Kim Chavez Cook a été officiellement désignée comme nouveau conseil de la défense de Sandoval pour superviser la procédure d'appel en cours.
Aveux de l'avocat de la défense et répercussions réglementaires
Aarons a reconnu sa dépendance à ChatGPT et a exprimé des regrets pour avoir soumis les éléments non vérifiés, expliquant à Reuters qu'il n'avait pas compris l'ampleur et la fréquence des hallucinations de l'intelligence artificielle lorsqu'il avait accepté la mission d'appel l'année dernière. Aarons a déclaré qu'il espérait que les autorités disciplinaires reconnaîtraient le contexte de l'erreur.
Je suis contrit, mais j'espère que le conseil de discipline considérera qu'il s'agit d'une erreur de bonne foi.
L'avocat de Santa Fe a indiqué que la citation pour outrage et la sanction financière constituent un avertissement sérieux pour la communauté juridique concernant la confiance non critique dans les plateformes génératives automatisées.
C'est une leçon douloureuse pour tous les professionnels qui se fient à cette technologie puissante mais parfois instable.
OpenAI n'a pas répondu aux demandes de commentaires concernant la décision du Nouveau-Mexique. La sanction contre Aarons coïncide avec des actions disciplinaires dans tout le système juridique des États-Unis, où des juges d'État et fédéraux ont pénalisé des dizaines d'avocats pour avoir soumis des mémoires contenant des erreurs d'interprétation juridique et des citations fabriquées produites par des outils automatisés, tandis que plusieurs juges ont été critiqués publiquement pour avoir déployé des systèmes d'intelligence artificielle dans leurs propres fonctions judiciaires.
