Tribunal dos EUA anula decisão baseada em jurisprudência falsa gerada por IA

IA gera jurisprudência falsa e leva à anulação de decisão judicial

Um tribunal de apelação na Geórgia anulou um decreto de divórcio após descobrir que ele foi baseado em jurisprudência inexistente, gerada por inteligência artificial. A decisão original citava 15 casos fabricados, sendo que 11 foram classificados pelo tribunal como "absoluto absurdo".

Contexto e descoberta

O processo de divórcio começou em 2021 entre partes anônimas. O erro veio à tona quando a mulher descobriu referências jurídicas fictícias. Ela recorreu ao tribunal de apelação, argumentando que a jurisprudência era produto de alucinações geradas por IA.

Durante o recurso, o advogado do homem agravou a situação ao apresentar casos adicionais falsos, gerados pelo ChatGPT. Isso resultou na anulação total da decisão original.

Preocupações judiciais e responsabilização

O tribunal expressou "grande preocupação", mas destacou que investigar a origem da jurisprudência falsa não era de sua competência. Eles citaram uma decisão de 2023 que permite o uso de IA, mas enfatizaram que os advogados devem atuar como "porteiros".

O advogado responsável foi multado em US$ 2.500, enquanto o juiz não sofreu sanções. O caso expõe vulnerabilidades em que tribunais inferiores frequentemente aceitam materiais de advogados sem verificação.

Implicações jurídicas mais amplas

Este incidente segue controvérsias semelhantes envolvendo IA, como na Holanda, onde um juiz usou IA para formar uma decisão. Juristas alertam que protocolos rigorosos de validação são essenciais, especialmente com o uso crescente de ferramentas como ChatGPT em pesquisas jurídicas.

O Índice de IA de Stanford 2025 relata que menções legislativas de IA em 75 países aumentaram 21,3%. O caso na Geórgia destaca a necessidade de estruturas éticas para a implementação de IA em sistemas judiciais globais.