New Mexico Supreme Court verhängt 5.000-Dollar-Strafe gegen Anwalt wegen ChatGPT-Halluzinationen in Mordberufung
Der Oberste Gerichtshof von New Mexico hat den Verteidiger Stephen Aarons wegen Missachtung des Gerichts verwarnt und mit einer Geldstrafe von 5.000 Dollar belegt, nachdem er einen Berufungsschriftsatz eingereicht hatte, der von ChatGPT erfundene Zeugenaussagen enthielt.
Missachtungsurteil des Obersten Gerichtshofs und Geldstrafe
Der Oberste Gerichtshof von New Mexico befand den Strafverteidiger Stephen Aarons der Missachtung des Gerichts für schuldig und verhängte eine Geldstrafe von 5.000 Dollar, nachdem festgestellt wurde, dass ein von ihm eingereichtes Rechtsmittel erfundene Polizeiaussagen und fiktive Zeugenaussagen enthielt, die von OpenAIs ChatGPT generiert wurden. Das oberste Staatsgericht entschied, dass Aarons es versäumte, die in seinem formellen Antrag dargestellten Tatsachenbehauptungen zu überprüfen. Der Antrag enthielt Aussagen von Personen, die nie vor Gericht ausgesagt hatten. In seiner offiziellen Entscheidung betonte das Gericht, dass Aarons durch die Einreichung eines ungeprüften KI-Outputs Gleichgültigkeit gegenüber den rechtlichen Interessen seines Mandanten zeigte, und die Richter ordneten an, dass der Fall formell an die Disziplinarkommission der Rechtsanwaltskammer des Bundesstaates zur weiteren aufsichtsrechtlichen Überprüfung überwiesen wird
- Oscar Rene Sandoval wird des Mordes für schuldig befunden und zu lebenslanger Haft wird später verurteilt; Stephen Aarons dessen Berufung.
- Der Oberste Gerichtshof von New Mexico Verlangt von Aarons eine Erklärung zu erfundenen Zeugenaussagen, die in seinem Rechtsmittel.
- Die Pflichtverteidigerin Kim Chavez Cook wird bestellt, um Aarons als Verteidigerin in Sandoval anhängigen Berufung zu ersetzen.
- Der Oberste Gerichtshof von New Mexico befindet Aarons der Missachtung des Gerichts, verhängt eine Geldstrafe von 5.000 Dollar und verweist ihn an die Disziplinarkommission der Rechtsanwaltskammer.
Zusammenfassung des Prozessprotokolls und KI-Fehler
Die Disziplinarmaßnahmen ergeben sich aus einem Berufungsschriftsatz, der im Namen von Oscar Rene Sandoval eingereicht wurde, der seine Unschuld am Mord der Mutter seiner Kinder beteuert. Sandoval wurde im letzten Jahr des Mordes für schuldig befunden und zu lebenslanger Haft verurteilt, woraufhin Aarons die Vertretung übernahm, um die Verurteilung anzufechten. Aarons, der ein unabhängige Privatkanzlei in Santa Fe betreibt, versuchte den Berufungsverfahrens zu straffen, indem er ChatGPT nutze, um eine prägnante Zusammenfassung des zugrundeliegenden Hauptverhandlungsprotokolls zu erstellen.
Während der Vorbereitung des Berufungsschriftsatzes gab Aarons die transkribierten Zeugenaussagen, offizielle Prozessprotokolle und andere Beweisdokumente, direkt in die OpenAI-Software ein, in der Annahme, dass das Werkzeug eine zuverlässige Zusammenfassung der Gerichtsverhandlungen liefern würde. Statt einer sachlichen Kurzfassung generierte das Sprachmodell vielmehr nicht existierende Zeugen, erfundene Aussagen, die Polizeibeamten zugeschrieben wurden, und spezifische narrative Elemente, die im Gerichtsprotokoll überhaupt nicht vorhanden waren. Zu den fingierten Details, die dem Gericht präsentiert wurden, gehörte eine fiktive Schilderung, die nach dem Betreiber trug eine dunkle Hose und ein weißes T-Shirt.
Verfahrensintervention und Bestellung eines neuen Anwalts
Das Vorliegen des erfundenen Materials führte letztes Monat zur gerichtlichen Überprüfung, als der Oberste Gerichtshof von New Mexico einen formellen Beschluss erließ, in dem Aarons aufgefordert wurde zu erklären, wie die unprotokollierten Aussagen und synthetischen Zeugenaussagen in das Gerichtsprotokoll gelangt sind. Sandovals Berufungsantrag bleibt vor der Justiz anhängig, obwohl andererseits nicht mehr die Verteidigungsstrategie leitet. Anfang September wurde die Pflichtverteidigerin Kim Chavez Cook offiziell zur neuen Verteidigerin für Sandovels Berufungsverfahren bestellt.
Geständnisse des Strafverteidigers und aufsichtsrechtliche Konsequenzen
Aarons gab seine Abhängigkeit von ChatGPT zu und drückte Reue für die Einreichung des ungeprüften Materials aus. Er erklärte gegenüber Reuters, er habe das Ausmaß und die Häufigkeit von KI-Halluzinationen nicht verstanden, als er im vergangenen den Fall übtersah. Aarons äußerte die Hoffnung, dass die Disziplinarbehörden den Kontext des Fehlers würdigen würden.
Ich bin reumütig, aber ich hoffe, dass die Rechtsanwaltskammer berücksichtigt, dass es sich um einen ehrlichen Fehler handelte.
Der Anwalt aus Santa Fe deutete an, dass die Missachtungsentscheidung und die Geldstrafe als ernstes Warnung für die Anwaltschaft in Bezug auf eine unkritische Abhängigkeit von generativen automatisierten Plattformen dienst.
OpenAI reagierte nicht auf Anfragen von Reuters zum Ruling von New Mexico. Die Sanktionerung fällt mit einem Anstieg von Disziplinarmaßnahmen in der gesamten US-Rechtswelt zusammen, wo bereits mehrere Dutzend Anwaltschaften bestraft, die geschriebene Schriftsätze mit Fehlinterpretationen und fabrizierten Zitaten, die von automatischen Tool erzeugt wurden, eingereicht haben. Zudem sahen sich mehrere Richter öffentlicher Kritik durch den Einsatz von KI-Systemen in ihren eigenen Verfahren ausgesetzt.
