AI-hallucinaties leiden tot vernietiging gerechtelijke uitspraak
Een hof van beroep in Georgia heeft een echtscheidingsvonnis vernietigd nadat bleek dat deze was gebaseerd op niet-bestaande jurisprudentie gegenereerd door kunstmatige intelligentie. Het oorspronkelijke vonnis verwees naar 15 gefabriceerde rechtszaken, waarvan 11 door het hof als "complete nonsens" werden bestempeld.
Achtergrond en ontdekking
De echtscheidingsprocedure startte in 2021 tussen anonieme partijen. De foutieve uitspraak kwam aan het licht toen de vrouw fictieve juridische referenties ontdekte. Zij stapte naar het hof van beroep en argumenteerde dat de jurisprudentie AI-gegenereerde hallucinaties waren.
Tijdens het beroep maakte de advocaat van de man de situatie erger door aanvullende ChatGPT-gegenereerde valse zaken in te dienen. Dit leidde tot volledige vernietiging van het oorspronkelijke vonnis.
Rechterlijke zorgen en verantwoording
Het hof uitte "grote zorgen" maar benadrukte dat onderzoek naar het ontstaan van de valse jurisprudentie niet tot hun taken behoorde. Ze verwezen naar een uitspraak uit 2023 die AI-gebruik toestaat, maar benadrukten dat advocaten als "poortwachters" moeten fungeren.
De verantwoordelijke advocaat kreeg een boete van $2500, terwijl de rechter geen sancties kreeg. Deze zaak belicht kwetsbaarheden waarbij lagere rechtbanken vaak materiaal van advocaten overnemen zonder verificatie.
Breedere juridische implicaties
Dit incident volgt op soortgelijke AI-controverses in onder meer Nederland, waar een rechter eerder AI gebruikte bij vonnisvorming. Juristen waarschuwen dat strikte validatieprotocollen essentieel zijn nu tools zoals ChatGPT vaker in juridisch onderzoek worden ingezet.
Stanford's AI Index 2025 meldt dat wetgevende vermeldingen van AI in 75 landen met 21,3% zijn gestegen. De zaak in Georgia onderstreept de noodzaak van ethische kaders voor AI-implementatie in rechtsystemen wereldwijd.