Kurzfassung

Generative KI-Modelle produzieren massenhaft fehlerhafte oder erfundene Inhalte in juristischen Dokumenten. Rechtsanwälte und Justizorgane setzen zunehmend auf KI-Tools zur Erstellung von Schriftsätzen, ohne die Halluzinationen zu überprüfen. Eine Onlinedatenbank von Rechtswissenschaftler Damien Charlotin dokumentierte bis Juni 2026 über 1500 Fälle, in denen Gerichte Personen für KI-Fehler in Prozessdokumenten sanktionierten – allein 1000 davon in den USA. Die tatsächliche Dunkelziffer liegt erheblich höher, da nur aufgedeckte Fälle erfasst werden.

Personen

  • Damien Charlotin (Rechtswissenschaftler, HEC Paris)
  • Deborah Leslie (stellvertretende Bezirksstaatsanwältin, Georgia)
  • Hannah Payne (Angeklagte, Fall Georgia)

Themen

  • Künstliche Intelligenz in der Rechtsprechung
  • KI-Halluzinationen und Datenfälschungen
  • Justizversagen und fehlende Kontrollen
  • Haftung und Sanktionen

Clarus Lead

Die Eskalation der KI-Fehler in Gerichtsverfahren offenbart ein strukturelles Versagen bei der Kontrolle und Verifikation kritischer Dokumente. Besonders besorgniserregend ist, dass nicht nur private Anwälte, sondern auch Richter und Staatsanwälte die fehlerhaften Texte ungeprüft akzeptieren oder weitergeben – mit direkten Konsequenzen für Angeklagte. Der Fall der Staatsanwältin Deborah Leslie zeigt: Selbst oberste Gerichte werden von KI-generierten Fiktionen getäuscht, wenn die Kontrolle ausfällt. Dies gefährdet die Grundprinzipien der Rechtssicherheit und Gerechtigkeit fundamental.

Detaillierte Zusammenfassung

Der Rechtswissenschaftler Damien Charlotin von der HEC Paris betreibt eine Datenbank zur Dokumentation von Gerichtsverfahren, in denen KI-Fehler zu Sanktionen führten. Nach aktuellen Zahlen sind über 1500 solche Fälle registriert, wobei die USA mit etwa 1000 Fällen deutlich überrepräsentiert sind. Die Dunkelziffer ist erheblich höher, da die Datenbank nur Fälle erfasst, in denen die KI-Halluzinationen überhaupt entdeckt wurden.

Ein besonders drastisches Beispiel ist der Fall der stellvertretenden Bezirksstaatsanwältin Deborah Leslie in Georgia. Im Mai 2026 reichte sie einen Beschlussentwurf ein, um die Zurückweisung eines Antrags auf Wiederaufnahme eines Verfahrens zu erwirken. Der Fall betraf Hannah Payne, die wegen Mordes und Freiheitsberaubung zu 13 Jahren Haft verurteilt worden war. Der Beschlussentwurf enthielt über 20 Verweise auf falsch wiedergegebene oder vollständig erfundene Gerichtsurteile. Nicht nur die Staatsanwältin übernahm die KI-generierten Zitate ungeprüft, sondern auch der Richter kopierte grosse Teile der fehlerhaften Vorlage in seine Entscheidung. Folge: Leslie wurde für sechs Monate von der Ausübung ihrer Tätigkeit vor dem Obersten Gerichtshof suspendiert.

Auch zwei US-Bundesrichter wurden 2025 für offensichtliche KI-Fehler in ihren Urteilen gerügt. Beide zeigten jedoch wenig Einsicht – einer schob die Schuld auf seinen juristischen Mitarbeiter, der andere auf einen Praktikanten. Diese Reaktionen deuten auf ein tieferes Kulturproblem: Verantwortung wird delegiert, statt eigenverantwortlich zu überprüfen.

Kernaussagen

  • KI erzeugt in juristischen Dokumenten systematisch erfundene Zitate und Urteile, die schwer zu erkennen sind
  • Über 1500 dokumentierte Fälle weltweit zeigen, dass Rechtsanwälte, Richter und Staatsanwälte ungeprüft KI-Texte verwenden
  • Selbst höchste Gerichte werden von KI-Halluzinationen getäuscht, wenn Kontrollen fehlen
  • Die fehlende Verantwortungsübernahme durch Justizorgane verschärft das Problem

Kritische Fragen

  1. Evidenz/Datenqualität: Wie vollständig ist Charlotin's Datenbank? Welche Länder und Gerichtsbarkeiten sind unterrepräsentiert, und könnten regionale Unterschiede bei der Erfassung die hohen US-Zahlen erklären?

  2. Interessenkonflikte: Profitieren KI-Anbieter finanziell von der fehlenden Haftung ihrer Modelle? Gibt es Anreize, Fehler nicht zu dokumentieren?

  3. Kausalität/Alternativen: Sind KI-Halluzinationen das Kernproblem, oder liegt die Schuld primär bei unzureichenden Überprüfungsprozessen? Würde strengere Mandantenhaftung das Problem lösen?

  4. Umsetzbarkeit/Risiken: Welche technischen oder prozessualen Lösungen könnten KI-Fehler in Rechtsschriftsätzen zuverlässig erkennen? Würde ein Verbot von KI in kritischen Verfahren nicht einfach zu Workarounds führen?

  5. Kausalität: Der Fall Leslie zeigt fehlende Kontrolle auf zwei Ebenen (Staatsanwaltschaft + Richter). Wer trägt die Hauptverantwortung für diese Kaskadenfehlern?

  6. Umsetzbarkeit: Lässt sich eine wirksame Haftung für Richter etablieren, die KI-generierte Fehlerzitate unkritisch übernehmen?

Quellenverzeichnis

Primärquelle: Justitia auf Irrwegen: Die Rechtsprechung und der Kampf mit dem KI-Müll – https://www.heise.de/hintergrund/Justitia-auf-Irrwegen-Die-Rechtsprechung-und-der-Kampf-mit-dem-KI-Muell-11313496.html

Verifizierungsstatus: ✓ Juni 2026

Weitere Sprachen: Französisch | Englisch

Dieser Text wurde mit Unterstützung eines KI-Modells erstellt. Redaktionelle Verantwortung: clarus.news | Faktenprüfung: Juni 2026