Deutsch
English
Español
Français
Nederlands
Português
Avocat canadien suspendu pour avoir utilisé ChatGPT afin de fabriquer des affaires judiciaires
Un avocat canadien a été suspendu six mois après avoir utilisé des citations juridiques fictives générées par l'IA devant un tribunal, une affaire disciplinaire marquante concernant le mésusage de l'intelligence artificielle dans la profession juridique. L'avocate torontoise Mary Hyun-Sook Lee a présenté une jurisprudence inexistante dans un litige successoral, puis a aggravé l'erreur en blâmant un étudiant en droit qui n'existait pas.
L'affaire, rapportée par The Toronto Star, souligne les risques croissants des hallucinations de l'IA dans la pratique juridique. Les risques croissants de l'IA dans la pratique juridique ont suscité des débats parmi les barreaux du monde entier.
Comment la fabrication par l'IA a été découverte
Début 2025, lors d'un litige successoral, Lee a soumis des arguments écrits et oraux citant plusieurs décisions de justice qui n'existaient tout simplement pas. Face à la contestation de l'avocat adverse, elle n'a pas pu produire les décisions réelles. Sous pression du juge, elle a finalement admis que les documents avaient été générés par ChatGPT, mais a affirmé qu'un assistant étudiant les avait créés, déclarant qu'elle était 'de la vieille école' et ne comprenait pas le fonctionnement de ChatGPT.
Le Law Society of Ontario a ouvert une enquête. Lee a d'abord refusé de nommer l'assistant, mais a ensuite avoué n'avoir ni associés ni stagiaires à l'époque. Les affaires fabriquées comprenaient des décisions entièrement inventées, et l'une d'elles portait un nom réel mais un résultat complètement erroné.
Récidive et trace numérique
Même après avoir été prise, Lee a continué à utiliser ChatGPT pour des conseils juridiques. Selon les données de recherche extraites de son ordinateur, elle a demandé à ChatGPT comment se préparer à une réunion de suivi avec le juge pour éviter une accusation d'outrage et des mesures disciplinaires. Dans l'invite, elle écrivait qu'elle avait été 'si stupide' de s'appuyer sur des sources inexistantes.
L'utilisation éthique de l'IA par les avocats est une préoccupation croissante pour les régulateurs juridiques. L'affaire Lee est considérée comme la première décision disciplinaire publique au Canada concernant spécifiquement les fausses citations générées par l'IA.
Sanction et précédent
Le tribunal du Law Society a imposé une suspension de six mois et une amende de 10 000 dollars canadiens (environ 6 600 euros). Le tribunal a noté que Lee avait manqué de franchise et avait tenté de rejeter la faute. La décision envoie un message fort sur la responsabilité professionnelle à l'ère de l'IA.
Des cas similaires ont émergé à l'international. Aux Pays-Bas, plusieurs avocats ont reçu des avertissements et ont été contraints de suivre des cours après avoir utilisé des outils d'IA de manière inappropriée. Aux États-Unis, un juge fédéral a sanctionné des avocats en 2023 pour avoir cité de fausses affaires ChatGPT dans un procès pour dommages corporels. La tendance mondiale des sanctions juridiques liées à l'IA s'accélère à mesure que les tribunaux s'adaptent aux nouvelles technologies.
Implications pour la profession juridique
Les experts juridiques affirment que cette affaire souligne la nécessité de directives claires sur l'utilisation de l'IA en droit. De nombreux barreaux élaborent désormais des règles exigeant la vérification de tout contenu généré par l'IA. ChatGPT et les LLM similaires peuvent produire des citations juridiques très convaincantes mais totalement fictives, un phénomène appelé hallucination.
« Les avocats ont un devoir fondamental de franchise envers le tribunal. Se fier à l'IA sans vérification constitue un grave manquement à ce devoir », a déclaré un expert en éthique juridique cité dans les documents du tribunal.
L'affaire soulève également des questions sur la fiabilité de l'IA dans des environnements professionnels à enjeux élevés. À mesure que les outils d'IA s'intègrent davantage dans la recherche et la rédaction juridiques, la profession doit équilibrer efficacité et contrôle rigoureux.
Foire aux questions
Que s'est-il passé dans l'affaire de l'avocat canadien et de l'IA ?
L'avocate torontoise Mary Hyun-Sook Lee a été suspendue six mois et condamnée à une amende de 10 000 $ CAD pour avoir soumis des affaires judiciaires fictives générées par l'IA dans un litige successoral, puis avoir menti à ce sujet.
Comment le tribunal a-t-il découvert les affaires générées par l'IA ?
L'avocat adverse a contesté les citations, et Lee n'a pas pu produire les décisions réelles. Elle a finalement admis que les documents avaient été créés avec ChatGPT.
Qu'est-ce qu'une hallucination de l'IA ?
Une hallucination de l'IA se produit lorsqu'un grand modèle de langage génère des informations plausibles mais incorrectes ou absurdes, comme des citations juridiques fictives.
Existe-t-il d'autres cas similaires ?
Oui. En 2023, des avocats américains ont été sanctionnés pour avoir cité de fausses affaires ChatGPT. Aux Pays-Bas, plusieurs avocats ont reçu des avertissements pour une utilisation inappropriée de l'IA.
Que doivent faire les avocats pour éviter un mauvais usage de l'IA ?
Les avocats doivent vérifier tout contenu généré par l'IA par rapport aux sources originales, divulguer l'utilisation de l'IA lorsque requis, et suivre les directives des barreaux sur la compétence technologique.
Follow Discussion