Een Canadese advocaat is voor zes maanden geschorst voor het gebruik van door AI verzonnen rechtbankdocumenten. Ook in voorbereiding op een tuchtzaak die later tegen haar diende, ging ze in de fout.
In 2025 werd advocaat Mary Hyun-Sook Lee betrapt op het gebruik van AI bij een erfrechtszaak. Zowel op schrift als in de rechtszaal haalde ze niet-bestaande zaken aan. Een andere zaak die zij aanhaalde in haar betoog bleek inhoudelijk irrelevant, schrijft krant The Toronto Star. In een ander geval klopte de zaak die aangehaald wel, maar bleek de uitkomst niet te kloppen, is te lezen in haar tuchtzaak.
De advocaat werd gevraagd om bewijsstukken te overleggen en kon dat niet. Toen zij daarop werd aangesproken, gaf zij uiteindelijk aan de rechter toe dat de documenten met AI waren gegenereerd. Maar zij stelde dat een assistent van haar, een rechtenstudent, dat had gedaan; zij was naar eigen zeggen "van de oude stempel" en had geen idee hoe ChatGPT werkte.
Een toezichtorgaan voor advocaten besloot zich op de zaak te storten. Nadat de advocaat aanvankelijk had geweigerd om de naam van de assistent te geven, gaf ze ten slotte toe dat ze geen assistenten of stagiairs in dienst had ten tijde van de zaak.
Het leidde tot een tuchtzaak. Uit haar zoekgegevens op haar computer die de tuchtraad had opgevraagd, bleek dat de vrouw kort nadat zij was betrapt opnieuw in de fout was gegaan, meldt The Toronto Star. Voor een vervolggesprek met de rechter van de eerste zaak gebruikte ze ChatGPT als hulpmiddel. Ze schreef in ChatGPT dat ze "zo stom was geweest" om zich te baseren op niet-bestaande bronnen en vroeg hoe ze zich verder kon voorbereiden om een tuchtzaak te voorkomen.
Ze is nu zes maanden geschorst en heeft een boete gekregen van 10.000 Canadese dollar, omgerekend ruim 6000 euro.
Volgens The Toronto Star is het waarschijnlijk de eerste keer dat een uitspraak over foutief gebruik van AI in een tuchtzaak openbaar is gemaakt.
Ook in andere landen zijn gevallen bekend van advocaten die foutief gebruikmaakten van kunstmatige intelligentie. In Nederland kregen meerdere advocaten waarschuwingen na verkeerd gebruik van AI.