Deutsch
English
Español
Français
Nederlands
Português
Abogado canadiense suspendido por usar ChatGPT para inventar casos judiciales
Una abogada canadiense ha sido suspendida por seis meses por presentar citas legales falsas generadas por IA en tribunales, marcando un caso disciplinario emblemático sobre el mal uso de la inteligencia artificial en la profesión legal. La abogada de Toronto, Mary Hyun-Sook Lee, fue hallada culpable de presentar jurisprudencia inexistente en una disputa de herencia y luego agravó el error culpando a un estudiante de derecho que no existía.
El caso, reportado por The Toronto Star, destaca los crecientes riesgos de las alucinaciones de IA en la práctica legal. Los crecientes riesgos de la IA en la práctica legal han generado debate entre los colegios de abogados del mundo.
Cómo se descubrió la falsificación de IA
A principios de 2025, durante un litigio sucesorio, Lee presentó argumentos escritos y orales citando múltiples decisiones judiciales que simplemente no existían. Cuando la contraparte cuestionó las citas, Lee no pudo presentar las sentencias reales. Bajo presión del juez, admitió que los documentos fueron generados por ChatGPT, pero culpó a un asistente estudiantil, diciendo que era de la "vieja escuela" y no entendía cómo funcionaba ChatGPT.
El Law Society de Ontario inició una investigación. Inicialmente, Lee se negó a nombrar al asistente, pero luego confesó que no tenía asociados ni pasantes en ese momento. Los casos falsos incluían fallos completamente inventados, y uno citado tenía un nombre real pero un resultado completamente erróneo.
Reincidencia y rastro digital
Incluso después de ser descubierta, Lee continuó usando ChatGPT para asesoría legal. Según datos de búsqueda recuperados de su computadora, preguntó a ChatGPT cómo prepararse para una reunión con el juez para evitar un desacato y posibles acciones disciplinarias. Escribió que había sido "tan estúpida" por confiar en fuentes inexistentes.
El uso ético de la IA por parte de los abogados es una preocupación creciente para los reguladores legales. El caso de Lee es la primera decisión disciplinaria pública en Canadá que aborda específicamente las citas falsas generadas por IA.
Sanción y precedente
El Tribunal del Law Society impuso una suspensión de seis meses y una multa de 10.000 dólares canadienses (aproximadamente 6.600 euros). El tribunal señaló que Lee mostró falta de sinceridad e intentó culpar a otros. La decisión envía un mensaje contundente sobre la responsabilidad profesional en la era de la IA.
Casos similares han surgido internacionalmente. En los Países Bajos, varios abogados recibieron advertencias y fueron obligados a tomar cursos por uso inadecuado de herramientas de IA. En Estados Unidos, un juez federal sancionó a abogados en 2023 por citar casos falsos de ChatGPT en una demanda por lesiones personales. La tendencia global de sanciones legales relacionadas con la IA se acelera a medida que los tribunales se adaptan a las nuevas tecnologías.
Implicaciones para la profesión legal
Expertos legales afirman que el caso subraya la necesidad de directrices claras sobre el uso de la IA en el derecho. Muchos colegios de abogados están desarrollando reglas que exigen verificar todo contenido generado por IA. ChatGPT y otros LLM pueden producir citas legales muy convincentes pero completamente ficticias, un fenómeno conocido como alucinación.
"Los abogados tienen un deber fundamental de sinceridad ante el tribunal. Confiar en la IA sin verificación es una violación grave de ese deber", dijo un experto en ética legal citado en los documentos del tribunal.
El caso también plantea preguntas sobre la fiabilidad de la IA en entornos profesionales de alto riesgo. A medida que las herramientas de IA se integran más en la investigación y redacción legal, la profesión debe equilibrar la eficiencia con una supervisión rigurosa.
Preguntas frecuentes
¿Qué sucedió en el caso de la abogada canadiense con IA?
La abogada de Toronto Mary Hyun-Sook Lee fue suspendida por seis meses y multada con 10.000 CAD por presentar casos judiciales falsos generados por IA en una disputa de herencia y luego mentir al respecto.
¿Cómo descubrió el tribunal los casos generados por IA?
La contraparte cuestionó las citas y Lee no pudo presentar las sentencias reales. Finalmente admitió que los documentos fueron creados con ChatGPT.
¿Qué es una alucinación de IA?
Ocurre cuando un modelo de lenguaje genera información que suena plausible pero es incorrecta o sin sentido, como citas legales falsas.
¿Hay otros casos similares?
Sí. En 2023, abogados estadounidenses fueron sancionados por citar casos falsos de ChatGPT. En los Países Bajos, varios abogados recibieron advertencias por uso inadecuado de IA.
¿Qué deben hacer los abogados para evitar el mal uso de la IA?
Verificar todo contenido generado por IA contra fuentes originales, divulgar el uso de IA cuando sea requerido y seguir las directrices de los colegios de abogados sobre competencia tecnológica.
Follow Discussion