Der Oberste Gerichtshof von New Mexico hat am Mittwoch den Anwalt Stephen Aarons scharf gerugt und der Missachtung des Gerichts schuldig befunden, weil er in der Berufung gegen die Mordverurteilung von Oscar Renee Sandoval einen Schriftsatz eingereicht hatte, der falsche Polizeiaussagen und vollig erfundene Zeugen enthielt. Laut Gericht verwendete Aarons ChatGPT zur Erstellung des Materials und uberprufte dessen Richtigkeit vor der Einreichung nicht.
Aarons sagte dem Gericht, er habe ChatGPT verwendet, um eine kugelsichere Zusammenfassung fur die Berufung seines Mandanten zu erstellen. Die Einreichung enthielt nicht nur falsche Rechtsreferenzen - sie enthielt falsche Aussagen, die Polizeibeamten und Zeugen zugeschrieben wurden, die nicht existierten. Das Gericht stellte fest, dass dies uber die Art von halluzinierten Fallzitaten hinausging, die in anderen Gerichtsbarkeiten zu Sanktionen gefuhrt hatten.
Dies ist der neueste Fall in einer wachsenden Serie rechtlicher Konsequenzen fur Anwalte, die sich auf nicht verifizierte KI-generierte Inhalte verlassen. Der bekannteste Fall bleibt der Vorfall von 2023 in New York, bei dem zwei Anwalte mit 5.000 Dollar Geldstrafe belegt wurden, weil sie fiktive Falle zitierten, die von ChatGPT generiert wurden. Seitdem haben Gerichte in den gesamten Vereinigten Staaten zunehmend strenge Sanktionen verhangt, da die KI-Nutzung in der Rechtspraxis zugenommen hat.
Der Fall verdeutlicht anhaltende Bedenken bezuglich KI-Halluzinationen in hochriskanten beruflichen Kontexten. Anders als falsche Rechtsreferenzen untergraben fabrizierte Zeugenaussagen in einem Strafberufungsverfahren direkt die Integritat des Justizsystems. Rechtsethik-Experten weisen darauf hin, dass Anwalte die Pflicht haben, dem Gericht gegenuber ehrlich zu sein, und ihre Verifizierungspflicht nicht an ein KI-Tool delegieren konnen.
Aarons erhielt eine Geldstrafe von 5.000 Dollar. Der Oberste Gerichtshof von New Mexico gab nicht an, ob zusatzliche disziplinarische Massnahmen folgen wurden.
