Deutsch
English
Español
Français
Nederlands
Português
Canadese Advocaat Geschorst voor Gebruik van ChatGPT om Rechtszaken te Verzinnen
Een Canadese advocaat is voor zes maanden geschorst nadat ze door AI gegenereerde valse juridische citaten in de rechtbank gebruikte. Dit markeert een baanbrekende tuchtzaak over het misbruik van kunstmatige intelligentie in de juridische beroepspraktijk. Advocate Mary Hyun-Sook Lee uit Toronto werd schuldig bevonden aan het indienen van niet-bestaande jurisprudentie in een erfrechtgeschil, waarna ze de fout probeerde te verdoezelen door een niet-bestaande rechtenstudent de schuld te geven.
De zaak, eerst gerapporteerd door The Toronto Star, benadrukt de groeiende risico's van AI-hallucinaties in de juridische praktijk. De groeiende risico's van AI in de juridische praktijk hebben wereldwijd debat veroorzaakt onder balies.
Hoe de AI-Fabricage werd Ontdekt
Begin 2025 diende Lee in een erfrechtzaak schriftelijke argumenten in en presenteerde mondelinge betogen waarin ze naar meerdere gerechtelijke uitspraken verwees die simpelweg niet bestonden. Toen de tegenpartij de citaten betwistte, kon Lee de werkelijke uitspraken niet overleggen. Onder druk van de rechter gaf ze uiteindelijk toe dat de documenten door ChatGPT waren gegenereerd, een AI-chatbot van OpenAI. Ze beweerde echter dat een student-assistent ze had gemaakt, en zei dat ze 'van de oude stempel' was en niet begreep hoe ChatGPT werkte.
De Law Society of Ontario startte een onderzoek. Aanvankelijk weigerde Lee de naam van de assistent te noemen, maar later bekende ze dat ze ten tijde van de zitting geen medewerkers of stagiaires had. De verzonnen zaken omvatten uitspraken die volledig verzonnen waren, en een geciteerde zaak had een echte naam maar een volledig verkeerde uitkomst.
Herhaald Vergrijp en Digitale Sporen
Zelfs nadat ze was betrapt, bleef Lee ChatGPT gebruiken voor juridisch advies. Volgens zoekgegevens die van haar computer waren teruggehaald door de tuchtcommissie, vroeg ze ChatGPT hoe ze zich moest voorbereiden op een vervolggesprek met de rechter om een veroordeling wegens minachting en mogelijke tuchtmaatregelen te voorkomen. In de prompt schreef ze dat ze 'zo stom' was geweest om op niet-bestaande bronnen te vertrouwen.
Het ethische gebruik van AI door advocaten is een groeiende zorg voor juridische toezichthouders. De zaak van Lee wordt beschouwd als de eerste openbare tuchtrechtelijke uitspraak in Canada die specifiek ingaat op door AI gegenereerde valse citaten.
Straf en Precedent
De Law Society Tribunal legde een schorsing van zes maanden op en een boete van 10.000 Canadese dollar (ongeveer 6.600 euro). De rechtbank merkte op dat Lee niet openhartig was geweest en de schuld had geprobeerd af te schuiven. De beslissing stuurt een krachtige boodschap over professionele verantwoordelijkheid in het tijdperk van AI.
Vergelijkbare zaken zijn internationaal opgedoken. In Nederland kregen verschillende advocaten waarschuwingen en moesten ze cursussen volgen na onjuist gebruik van AI-tools. In de Verenigde Staten legde een federale rechter in 2023 sancties op aan advocaten die valse ChatGPT-zaken citeerden in een letselschadezaak. De wereldwijde trend van AI-gerelateerde juridische sancties versnelt nu rechtbanken zich aanpassen aan nieuwe technologie.
Gevolgen voor het Juridische Beroep
Juridische experts zeggen dat de zaak de noodzaak van duidelijke richtlijnen voor AI-gebruik in de rechten benadrukt. Veel balies ontwikkelen nu regels die vereisen dat advocaten alle door AI gegenereerde inhoud verifiëren. ChatGPT en soortgelijke LLM's kunnen zeer overtuigende maar volledig fictieve juridische citaten produceren, een fenomeen dat hallucinatie wordt genoemd.
"Advocaten hebben een fundamentele plicht van openhartigheid tegenover de rechtbank. Vertrouwen op AI zonder verificatie is een ernstige schending van die plicht," zei een juridisch ethicus die in de tuchtrechtelijke documenten werd geciteerd.
De zaak roept ook vragen op over de betrouwbaarheid van AI in professionele omgevingen met hoge belangen. Naarmate AI-tools meer geïntegreerd worden in juridisch onderzoek en het opstellen van documenten, moet het beroep een balans vinden tussen efficiëntie en rigoureus toezicht.
Veelgestelde Vragen
Wat gebeurde er in de Canadese AI-zaak?
Advocate Mary Hyun-Sook Lee uit Toronto werd voor zes maanden geschorst en kreeg een boete van $10.000 CAD voor het indienen van door AI gegenereerde valse rechtszaken in een erfrechtgeschil en vervolgens liegen daarover.
Hoe ontdekte de rechtbank de door AI gegenereerde zaken?
De tegenpartij betwistte de citaten en Lee kon de werkelijke uitspraken niet overleggen. Ze gaf uiteindelijk toe dat de documenten met ChatGPT waren gemaakt.
Wat is een AI-hallucinatie?
Een AI-hallucinatie treedt op wanneer een groot taalmodel plausibel klinkende maar onjuiste of onzinnige informatie genereert, zoals valse juridische citaten.
Zijn er andere vergelijkbare zaken?
Ja. In 2023 werden Amerikaanse advocaten gesanctioneerd voor het citeren van valse ChatGPT-zaken. In Nederland kregen meerdere advocaten waarschuwingen voor oneigenlijk AI-gebruik.
Wat moeten advocaten doen om AI-misbruik te voorkomen?
Advocaten moeten alle door AI gegenereerde inhoud verifiëren aan de hand van originele bronnen, AI-gebruik melden wanneer vereist, en de richtlijnen van de balie over technologische bekwaamheid volgen.
Follow Discussion