Un tribunal américain annule un jugement avec des précédents faux générés par IA

Des hallucinations d'IA entraînent l'annulation d'une décision judiciaire

Une cour d'appel de Géorgie a annulé un jugement de divorce après avoir découvert qu'il s'appuyait sur des précédents juridiques inexistants générés par intelligence artificielle. La décision initiale citait 15 affaires fabriquées, dont 11 qualifiées de "non-sens complet" par les juges d'appel.

Contexte et découverte

La procédure de divorce a commencé en 2021 entre des parties anonymes. L'erreur a été découverte lorsque l'épouse a identifié des références juridiques fictives. Elle a fait appel, arguant que les précédents étaient des hallucinations générées par IA.

Lors de l'appel, l'avocat du mari a aggravé la situation en soumettant d'autres faux cas générés par ChatGPT. Cela a conduit à l'annulation complète du jugement initial.

Préoccupations judiciaires et responsabilité

La cour a exprimé une "préoccupation grave" mais a précisé que l'enquête sur l'origine des faux précédents n'était pas de son ressort. Elle a cité un arrêt de 2023 autorisant l'IA mais soulignant que les avocats doivent servir de "gardiens" vérifiant l'exactitude des informations.

L'avocat responsable a reçu une amende de 2500$, tandis que le juge n'a pas été sanctionné. Cette affaire révèle des vulnérabilités systémiques où les tribunaux inférieurs s'appuient souvent sur des documents non vérifiés.

Implications juridiques plus larges

Cet incident fait suite à des controverses similaires, notamment aux Pays-Bas où un juge a utilisé l'IA pour rédiger un jugement. Les experts juridiques alertent sur la nécessité de protocoles de validation stricts avec l'adoption croissante d'outils comme ChatGPT.

L'Index IA 2025 de Stanford rapporte une augmentation de 21,3% des mentions législatives de l'IA dans 75 pays. L'affaire géorgienne souligne le besoin urgent de cadres éthiques pour l'implémentation de l'IA dans les systèmes judiciaires.