Deutsch
English
Español
Français
Nederlands
Português
Advogado Canadense Suspenso por Usar ChatGPT para Fabricar Casos Judiciais
Um advogado canadense foi suspenso por seis meses por usar citações legais falsas geradas por IA em tribunal, marcando um caso disciplinar emblemático sobre o uso indevido de inteligência artificial na profissão jurídica. A advogada de Toronto, Mary Hyun-Sook Lee, foi considerada culpada por apresentar jurisprudência inexistente em uma disputa de herança e, em seguida, agravou o erro ao culpar um estudante de direito que não existia.
O caso, relatado pelo The Toronto Star, destaca os crescentes riscos de alucinações de IA na prática jurídica. Os crescentes riscos da IA na prática jurídica geraram debate entre as associações de advogados em todo o mundo.
Como a Fabricação por IA Foi Descoberta
No início de 2025, durante um litígio de herança, Lee apresentou argumentos escritos e orais citando várias decisões judiciais que simplesmente não existiam. Quando a parte contrária contestou as citações, Lee não conseguiu produzir as decisões reais. Sob pressão do juiz, ela acabou admitindo que os documentos foram gerados pelo ChatGPT, mas alegou que um assistente estudante os criou, dizendo ser 'da velha escola' e não entender como o ChatGPT funcionava.
A Law Society of Ontario iniciou uma investigação. Inicialmente, Lee se recusou a nomear o assistente, mas depois confessou que não tinha associados ou estagiários na época da audiência. Os casos fabricados incluíam decisões totalmente inventadas, e um caso citado tinha um nome real, mas um resultado completamente errado.
Reincidência e Rastro Digital
Mesmo após ser pega, Lee continuou usando o ChatGPT para aconselhamento jurídico. Segundo dados de busca recuperados de seu computador pelo tribunal disciplinar, ela perguntou ao ChatGPT como se preparar para uma reunião de acompanhamento com o juiz para evitar uma acusação de desacato e possível ação disciplinar. No prompt, ela escreveu que havia sido 'tão estúpida' por confiar em fontes inexistentes.
O uso ético da IA por advogados é uma preocupação crescente para os reguladores jurídicos. O caso de Lee é considerado a primeira decisão disciplinar pública no Canadá a abordar especificamente citações falsas geradas por IA.
Penalidade e Precedente
O Tribunal da Law Society impôs uma suspensão de seis meses e uma multa de 10.000 dólares canadenses (aproximadamente 6.600 euros). O tribunal observou que Lee demonstrou falta de transparência e tentou transferir a culpa. A decisão envia uma mensagem forte sobre a responsabilidade profissional na era da IA.
Casos semelhantes surgiram internacionalmente. Nos Países Baixos, vários advogados receberam advertências e foram obrigados a fazer cursos após uso inadequado de ferramentas de IA. Nos Estados Unidos, um juiz federal sancionou advogados em 2023 por citarem casos falsos do ChatGPT em uma ação de danos pessoais. A tendência global de sanções legais relacionadas à IA está se acelerando à medida que os tribunais se adaptam à nova tecnologia.
Implicações para a Profissão Jurídica
Especialistas jurídicos afirmam que o caso ressalta a necessidade de diretrizes claras sobre o uso de IA no direito. Muitas associações de advogados estão desenvolvendo regras que exigem a verificação de todo conteúdo gerado por IA. O ChatGPT e LLMs similares podem produzir citações legais altamente convincentes, mas totalmente fictícias, fenômeno conhecido como alucinação.
'Os advogados têm o dever fundamental de transparência com o tribunal. Confiar na IA sem verificação é uma grave violação desse dever,' disse um especialista em ética jurídica citado nos documentos do tribunal.
O caso também levanta questões sobre a confiabilidade da IA em ambientes profissionais de alto risco. À medida que as ferramentas de IA se integram mais à pesquisa e à redação jurídicas, a profissão deve equilibrar eficiência com supervisão rigorosa.
Perguntas Frequentes
O que aconteceu no caso do advogado canadense com IA?
A advogada de Toronto, Mary Hyun-Sook Lee, foi suspensa por seis meses e multada em $10.000 CAD por apresentar casos judiciais falsos gerados por IA em uma disputa de herança e depois mentir sobre isso.
Como o tribunal descobriu os casos gerados por IA?
A parte contrária contestou as citações, e Lee não conseguiu produzir as decisões reais. Ela acabou admitindo que os documentos foram criados usando o ChatGPT.
O que é alucinação de IA?
A alucinação de IA ocorre quando um modelo de linguagem grande gera informações plausíveis, mas incorretas ou sem sentido, como citações legais falsas.
Existem outros casos semelhantes?
Sim. Em 2023, advogados nos EUA foram sancionados por citar casos falsos do ChatGPT. Nos Países Baixos, vários advogados receberam advertências por uso inadequado de IA.
O que os advogados devem fazer para evitar o uso indevido de IA?
Os advogados devem verificar todo conteúdo gerado por IA em fontes originais, divulgar o uso de IA quando exigido e seguir as diretrizes da associação de advogados sobre competência tecnológica.
Follow Discussion