Oberster Gerichtshof von New Mexico verhängt 5.000 Dollar Geldstrafe gegen Anwalt wegen ChatGPT-erfundener Zeugen in Mordberufung

Sanktionen wegen erfundener Aussagen

Der Oberste Gerichtshof von New Mexico stellte fest, dass der Strafverteidiger Stephen Aarons sich der unmittelbaren Missachtung des Gerichts schuldig gemacht hat, verhängte eine Geldstrafe von 5.000 Dollar und verwies ihn zur Untersuchung an die staatliche Anwaltsdisziplinarkommission. Aarons, ein privater Anwalt mit Sitz in Santa Fe und mehr als 40 Jahren Berufserfahrung, reichte ein Berufungsschreiben ein, das falsche Aussagen und erfundene Zeugen enthielt, die von OpenAIs ChatGPT generiert wurden. Die Richter erklärten, dass Aarons es versäumt habe, die Tatsachenbehauptungen und rechtlichen Autoritäten in seiner Eingabe zu überprüfen, bevor er sie dem Gericht vorlegte. Das Schreiben wurde im Namen von Oscar Renee Sandoval eingereicht, der auf nicht schuldig plädierte im Mordfall Shiereen Al-Jibury, bevor er verurteilt und im Februar 2025 zu lebenslanger Haft verurteilt wurde.

Ausmaß der KI-Halluzinationen

Die Feststellungen des Gerichts beschrieben mehrere Fälle, in denen das KI-Programm Zeugen und Aussagen erfand. Aarons gab zu, dass das Berufungsschreiben falsche Aussagen enthielt, die fiktiven Personen zugeschrieben wurden, darunter Officer Michelle Amarillo, Officer Sanchez, Manal Al-Jibury und Teresa Marquez. Darüber hinaus enthielt das Schreiben erfundene Behauptungen über Drohungen, die unter den Namen Danny Stanton und Linda Stanton eingereicht wurden, sowie erfundene Aussagen darüber, dass der Schützer dunkle Hosen und ein weißes Hemd trug. Aarons stellte auch rechtliche Autoritäten in Fallzitaten falsch dar, indem er über übliche Zitierfehler hinaus falsche Tatsachen aus dem Verfahren in ein Strafverfahren einfließen ließ.

Reaktion des Gerichts und Anhörung

Aarons erklärte, er habe ein computergeneriertes Transkript des Mordprozesses zusammen mit zugehörigen Fallunterlagen in ChatGPT eingegeben, in der Annahme, die Software würde eine zuverlässige Prozesszusammenfassung erstellen. Während einer Anhörung am 21. August, die zur Prüfung des Schreibens einberufen wurde, stellte das Gericht Aarons wegen seiner mangelnden Aufsicht und seines fehlenden grundlegenden Bewusstseins für Fehler generativer Software zur Rede. Richterin C. Shannon Bacon befragte den Anwalt direkt zu seinem Versäumnis, gut dokumentierte Risiken der künstlichen Intelligenz zu erkennen.

„Herr Rechtsanwalt, sehen Sie die Nachrichten? Hören Sie Radio? Lesen Sie irgendetwas darüber, was in der Welt passiert? Denn das Problem mit Anwälten, die sich auf KI-Halluzinationen verlassen, ist jeden Tag eine Schlagzeile auf der Titelseite.“

Der Oberste Gerichtshof kam in seiner Anordnung vom Mittwoch zu dem Schluss, dass Aarons Reuelosigkeit zeigte und es versäumte, seinen Mandanten über die falschen Tatsachen- und Rechtsdarstellungen zu informieren.

Neu zugewiesene Berufung und Disziplinarverweis

Nach der Entscheidung räumte Aarons ein, dass er nicht verstanden habe, wie generative KI-Modelle nicht existierende Informationen erfinden.

„Ich bin reuevoll, hoffe aber, dass die Disziplinarkommission berücksichtigt, dass es ein ehrlicher Fehler war. Es ist eine Lektion für alle Fachleute, die sich auf diese leistungsstarke, aber manchmal instabile Technologie verlassen.“

Der Bundesstaat New Mexico beantragte zunächst, Teile von Aarons' Schreiben Wochen nach seiner Einreichung im August 2025 zu streichen. Sandovals Mordberufung bleibt im Gerichtssystem aktiv, und der Fall wurde am 2. September 2026 offiziell der öffentlichen Verteidigerin von New Mexico, Kim Chavez Cook, neu zugewiesen.