Advocaat geschorst na gebruik van ChatGPT voor juridische stukken

Een recente schorsing van een advocaat in Nederland door de tuchtrechter heeft de aandacht gevestigd op het gebruik van AI-technologieën binnen de rechtspraktijk. De advocaat diende documenten in die waren gegenereerd door een generatief taalmodel, maar de teksten bevatten verzonnen uitspraken. De tuchtrechter oordeelde dat dit een schending van de zorgplicht was, daar dergelijke fouten het vertrouwen in de rechtsgang kunnen schaden en cliënten kunnen benadelen.

Generatieve AI-systemen, zoals ChatGPT en Gemini, bieden krachtige mogelijkheden in tekstgeneratie, maar brengen ook een aanzienlijk risico met zich mee. Zij kunnen informatie 'hallucineren', wat inhoudt dat ze met grote stelligheid onjuiste data produceren. Deze problematiek is bijzonder kritisch in juridische contexten, waar de precisie van uitspraken en wetgeving essentieel is. Rechters hebben herhaaldelijk gewaarschuwd dat juristen alle vermeldingen en citaten dienen te verifiëren, ook als AI enkel wordt ingezet om een eerste concept op te stellen.

De Nederlandse Orde van Advocaten benadrukt dat de verplichting tot zorgvuldigheid en bronverificatie niet verandert door de inzet van AI-tools. Advocaten dienen transparant te zijn over het gebruik van dergelijke technologieën, bijvoorbeeld door bronnen of tools bij processtukken te vermelden. Dit helpt rechters inzicht te geven in hoe de teksten zijn opgebouwd en waar de informatie vandaan komt. Het is cruciaal dat advocaten en hun kantoren duidelijke interne richtlijnen voor het gebruik van AI hanteren, waaronder regels voor factchecking en documentatie.

De impact van de Europese AI-verordening is eveneens relevant voor deze kwestie, aangezien het eisen stelt aan het gebruik van AI in sectoren met grote maatschappelijke impact. Zo wordt verwacht dat menselijke controle en uitlegbaarheid worden gewaarborgd, vooral in juridische beslissingen. Met deze ontwikkelingen is het voor cliënten van belang om inzicht te krijgen in het AI-beleid van hun advocaat en te vragen hoe hun persoonsgegevens beschermd worden. Dit creëert niet alleen vertrouwen, maar zorgt ook voor een nauwkeurige en efficiënte afhandeling van hun zaken.

Lees het volledige artikel van AI Insider.