Oberster Gerichtshof von New Mexico verhängt 5.000 Dollar Geldstrafe gegen Anwalt wegen ChatGPT-erfundener Zeugen in Mordberufung
Der Oberste Gerichtshof von New Mexico hat den Strafverteidiger Stephen Aarons wegen Missachtung des Gerichts belangt und mit einer Geldstrafe von 5.000 Dollar belegt, nachdem er ein Mordberufungsschreiben eingereicht hatte, das fiktive, von ChatGPT generierte Polizeiaussagen enthielt.
Sanktionen wegen erfundener Aussagen
Der Oberste Gerichtshof von New Mexico stellte fest, dass der Strafverteidiger Stephen Aarons sich der unmittelbaren Missachtung des Gerichts schuldig gemacht hat, verhängte eine Geldstrafe von 5.000 Dollar und verwies ihn zur Untersuchung an die staatliche Anwaltsdisziplinarkommission. Aarons, ein privater Anwalt mit Sitz in Santa Fe und mehr als 40 Jahren Berufserfahrung, reichte ein Berufungsschreiben ein, das falsche Aussagen und erfundene Zeugen enthielt, die von OpenAIs ChatGPT generiert wurden. Die Richter erklärten, dass Aarons es versäumt habe, die Tatsachenbehauptungen und rechtlichen Autoritäten in seiner Eingabe zu überprüfen, bevor er sie dem Gericht vorlegte. Das Schreiben wurde im Namen von Oscar Renee Sandoval eingereicht, der auf nicht schuldig plädierte im Mordfall Shiereen Al-Jibury, bevor er verurteilt und im Februar 2025 zu lebenslanger Haft verurteilt wurde.
Ausmaß der KI-Halluzinationen
Die Feststellungen des Gerichts beschrieben mehrere Fälle, in denen das KI-Programm Zeugen und Aussagen erfand. Aarons gab zu, dass das Berufungsschreiben falsche Aussagen enthielt, die fiktiven Personen zugeschrieben wurden, darunter Officer Michelle Amarillo, Officer Sanchez, Manal Al-Jibury und Teresa Marquez. Darüber hinaus enthielt das Schreiben erfundene Behauptungen über Drohungen, die unter den Namen Danny Stanton und Linda Stanton eingereicht wurden, sowie erfundene Aussagen darüber, dass der Schützer dunkle Hosen und ein weißes Hemd trug. Aarons stellte auch rechtliche Autoritäten in Fallzitaten falsch dar, indem er über übliche Zitierfehler hinaus falsche Tatsachen aus dem Verfahren in ein Strafverfahren einfließen ließ.
- Oscar Renee Sandoval wird wegen des Mordes an Shiereen Al-Jibury zu lebenslanger Haft verurteilt.
- Anwalt Stephen Aarons reicht ein Berufungsschreiben ein, das von ChatGPT erfundene Zeugenaussagen enthält.
- Aarons erscheint zu einer Anhörung vor dem Obersten Gerichtshof, um den erfundenen Inhalt des Schreibens zu erklären.
- Sandovals Berufung wird der öffentlichen Verteidigerin Kim Chavez Cook übertragen.
- Der Oberste Gerichtshof von New Mexico verhängt eine Geldstrafe von 5.000 Dollar gegen Aarons, stellt Missachtung fest und verweist ihn an eine Disziplinarkommission.
Reaktion des Gerichts und Anhörung
Aarons erklärte, er habe ein computergeneriertes Transkript des Mordprozesses zusammen mit zugehörigen Fallunterlagen in ChatGPT eingegeben, in der Annahme, die Software würde eine zuverlässige Prozesszusammenfassung erstellen. Während einer Anhörung am 21. August, die zur Prüfung des Schreibens einberufen wurde, stellte das Gericht Aarons wegen seiner mangelnden Aufsicht und seines fehlenden grundlegenden Bewusstseins für Fehler generativer Software zur Rede. Richterin C. Shannon Bacon befragte den Anwalt direkt zu seinem Versäumnis, gut dokumentierte Risiken der künstlichen Intelligenz zu erkennen.
Herr Rechtsanwalt, sehen Sie die Nachrichten? Hören Sie Radio? Lesen Sie irgendetwas darüber, was in der Welt passiert? Denn das Problem mit Anwälten, die sich auf KI-Halluzinationen verlassen, ist jeden Tag eine Schlagzeile auf der Titelseite.
Der Oberste Gerichtshof kam in seiner Anordnung vom Mittwoch zu dem Schluss, dass Aarons Reuelosigkeit zeigte und es versäumte, seinen Mandanten über die falschen Tatsachen- und Rechtsdarstellungen zu informieren.
Neu zugewiesene Berufung und Disziplinarverweis
Nach der Entscheidung räumte Aarons ein, dass er nicht verstanden habe, wie generative KI-Modelle nicht existierende Informationen erfinden.
Ich bin reuevoll, hoffe aber, dass die Disziplinarkommission berücksichtigt, dass es ein ehrlicher Fehler war. Es ist eine Lektion für alle Fachleute, die sich auf diese leistungsstarke, aber manchmal instabile Technologie verlassen.
Der Bundesstaat New Mexico beantragte zunächst, Teile von Aarons' Schreiben Wochen nach seiner Einreichung im August 2025 zu streichen. Sandovals Mordberufung bleibt im Gerichtssystem aktiv, und der Fall wurde am 2. September 2026 offiziell der öffentlichen Verteidigerin von New Mexico, Kim Chavez Cook, neu zugewiesen.
