Tribunal de EE.UU. anula fallo basado en jurisprudencia falsa generada por IA

Fallo judicial anulado por uso de jurisprudencia falsa generada por IA

Un tribunal de apelaciones en Georgia ha anulado un fallo de divorcio después de descubrir que se basaba en jurisprudencia inexistente generada por inteligencia artificial. El fallo original citaba 15 casos legales fabricados, de los cuales 11 fueron calificados por el tribunal como "completamente absurdos".

Contexto y descubrimiento

El proceso de divorcio comenzó en 2021 entre partes anónimas. El error salió a la luz cuando la mujer descubrió referencias jurídicas ficticias. Ella apeló al tribunal, argumentando que la jurisprudencia eran alucinaciones generadas por IA.

Durante la apelación, el abogado del hombre empeoró la situación al presentar casos falsos adicionales generados por ChatGPT. Esto llevó a la anulación total del fallo original.

Preocupaciones judiciales y responsabilidad

El tribunal expresó "gran preocupación" pero enfatizó que investigar el origen de la jurisprudencia falsa no era su responsabilidad. Citó un fallo de 2023 que permite el uso de IA, pero subrayó que los abogados deben actuar como "guardianes".

El abogado responsable recibió una multa de $2500, mientras que el juez no enfrentó sanciones. Este caso destaca vulnerabilidades en los procesos de verificación legal.

Implicaciones legales más amplias

Este incidente sigue a controversias similares en países como Países Bajos, donde un juez usó IA en la toma de decisiones. Los juristas advierten que los protocolos de validación son esenciales a medida que herramientas como ChatGPT se usan más en investigación legal.

El Índice de IA de Stanford 2025 reporta que las menciones legislativas de IA han aumentado un 21,3% en 75 países. El caso en Georgia subraya la necesidad de marcos éticos para la implementación de IA en sistemas legales globales.