Auteur: heise.de

Résumé

Les modèles d'IA générative produisent massivement des contenus erronés ou inventés dans les documents juridiques. Les avocats et les organes judiciaires recourent de plus en plus à des outils d'IA pour rédiger des mémoires sans vérifier les hallucinations. Une base de données en ligne du juriste Damien Charlotin a documenté jusqu'à juin 2026 plus de 1500 cas où les tribunaux ont sanctionné des personnes pour des erreurs d'IA dans les documents de procédure – dont 1000 aux États-Unis seuls. Le nombre réel de cas non détectés est considérablement plus élevé, car seuls les cas découverts sont enregistrés.

Personnes

  • Damien Charlotin (Juriste, HEC Paris)
  • Deborah Leslie (Procureure adjointe du district, Géorgie)
  • Hannah Payne (Accusée, cas Géorgie)

Thèmes

  • Intelligence artificielle dans la jurisprudence
  • Hallucinations d'IA et falsification de données
  • Défaillance judiciaire et absence de contrôles
  • Responsabilité et sanctions

Clarus Lead

L'escalade des erreurs d'IA dans les procédures judiciaires révèle une défaillance structurelle dans le contrôle et la vérification des documents critiques. Il est particulièrement préoccupant que non seulement les avocats privés, mais aussi les juges et les procureurs acceptent ou transmettent sans vérification les textes erronés – avec des conséquences directes pour les accusés. Le cas de la procureure Deborah Leslie montre que : Même les plus hautes cours sont trompées par les fictions générées par l'IA lorsque le contrôle fait défaut. Cela menace fondamentalement les principes fondamentaux de la sécurité juridique et de la justice.

Résumé détaillé

Le juriste Damien Charlotin de HEC Paris gère une base de données pour documenter les procédures judiciaires dans lesquelles les erreurs d'IA ont entraîné des sanctions. Selon les chiffres actuels, plus de 1500 de ces cas sont enregistrés, les États-Unis étant nettement surreprésentés avec environ 1000 cas. Le nombre réel de cas non détectés est considérablement plus élevé, car la base de données n'enregistre que les cas dans lesquels les hallucinations d'IA ont effectivement été découvertes.

Un exemple particulièrement frappant est le cas de la procureure adjointe du district Deborah Leslie en Géorgie. En mai 2026, elle a déposé un projet de décision afin d'obtenir le rejet d'une demande en révision d'une procédure. L'affaire concernait Hannah Payne, qui avait été condamnée à 13 ans de prison pour meurtre et privation de liberté. Le projet de décision contenait plus de 20 références à des jugements cités de manière inexacte ou entièrement fictifs. Non seulement la procureure a repris les citations générées par l'IA sans vérification, mais le juge a également copié de larges parties du modèle erroné dans sa décision. Résultat : Leslie a été suspendue de l'exercice de ses fonctions devant la Cour suprême pendant six mois.

Deux juges fédéraux américains ont également été réprimandés en 2025 pour des erreurs d'IA évidentes dans leurs jugements. Cependant, tous deux ont montré peu de perspicacité – l'un a rejeté la responsabilité sur son collaborateur juridique, l'autre sur un stagiaire. Ces réactions indiquent un problème culturel plus profond : la responsabilité est déléguée au lieu d'être vérifiée de manière autonome.

Points clés

  • L'IA produit systématiquement dans les documents juridiques des citations fictives et des jugements inventés, difficiles à détecter
  • Plus de 1500 cas documentés dans le monde montrent que les avocats, juges et procureurs utilisent sans vérification les textes générés par l'IA
  • Même les plus hautes cours sont trompées par les hallucinations d'IA lorsque les contrôles font défaut
  • L'absence d'assomption de responsabilité par les organes judiciaires aggrave le problème

Questions critiques

  1. Preuve/Qualité des données : Quelle est la complétude de la base de données de Charlotin ? Quelles juridictions et régions sont sous-représentées, et les différences régionales dans la documentation pourraient-elles expliquer les chiffres élevés aux États-Unis ?

  2. Conflits d'intérêts : Les fournisseurs d'IA bénéficient-ils financièrement de l'absence de responsabilité de leurs modèles ? Existe-t-il des incitations à ne pas documenter les erreurs ?

  3. Causalité/Alternatives : Les hallucinations d'IA sont-elles le problème fondamental, ou la faute incombe-t-elle principalement aux processus de vérification insuffisants ? Une responsabilité stricte des mandants résoudrait-elle le problème ?

  4. Applicabilité/Risques : Quelles solutions techniques ou procédurales pourraient détecter de manière fiable les erreurs d'IA dans les actes juridiques ? Une interdiction de l'IA dans les procédures critiques ne conduirait-elle pas simplement à des contournements ?

  5. Causalité : Le cas Leslie montre une absence de contrôle à deux niveaux (ministère public + juge). Qui porte la responsabilité principale de ces erreurs en cascade ?

  6. Applicabilité : Est-il possible d'établir une responsabilité effective pour les juges qui reprennent sans critique les citations erronées générées par l'IA ?

Répertoire des sources

Source primaire : Justitia sur les chemins de l'erreur : La jurisprudence et la lutte contre les déchets de l'IA – https://www.heise.de/hintergrund/Justitia-auf-Irrwegen-Die-Rechtsprechung-und-der-Kampf-mit-dem-KI-Muell-11313496.html

Statut de vérification : ✓ Juin 2026

Ce texte a été créé avec l'aide d'un modèle d'IA. Responsabilité éditoriale : clarus.news | Vérification des faits : Juin 2026