Advocaat moet €2.300 betalen voor AI-citaat

Een Nederlandse advocaat is verplicht om 2.300 euro aan proceskosten te betalen na het gebruik van een vermoedelijk door AI gegenereerd citaat in een pleitstuk. De rechter oordeelde dat het citaat niet te verifiëren was, wat het misleidend maakte. De advocaat kon geen betrouwbare bron bieden, wat haaks stond op de vereiste controleerbaarheid in juridische procedures. Dit vonnis onderstreept het belang van bronvermelding en zorgvuldigheid, vooral voor advocaten die met generatieve AI-teksten werken.

In deze zaak wees de civiele rechter een citaat af dat eindigde in de documenten van de advocaat, waarbij het aan een bekende auteur werd toegeschreven, maar niet kon worden teruggevonden. Zoekopdrachten in juridische databases leverden geen resultaten op. De rechter concludeerde dat zonder een controleerbare herkomst het citaat geen substantie kon bieden in de argumentatie en markeerde het als mogelijk afkomstig van een AI-tekstgenerator. Dit benadrukte dat elke bewering moet steunen op verifieerbare bronnen.

Generatieve AI, zoals ChatGPT en andere modellen, kan soms hallucineren, wat betekent dat het informatie produceert die geloofwaardig lijkt, maar niet feitelijk is. Dit is in de juridische context bijzonder riskant, aangezien het kan leiden tot fouten in rechtspraak en het vertrouwen in de advocatuur kan schaden. De Europese AI-verordening vraagt om transparantie, maar onderstreept ook dat advocaten de verplichting hebben om zorgvuldigheid te betrachten in hun werk, ongeacht of ze AI gebruiken of niet.

De uitspraak van de rechter illustreert de noodzaak voor advocaten om AI altijd kritisch te benaderen en handmatig te verifiëren voor gebruik in rechtszaken. Het gebruik van AI moet beperkt blijven tot ondersteuning bij de taalvaardigheid, en alle substantieve claims moeten gebaseerd zijn op controleerbare en betrouwbare bronnen. Deze situatie weerspiegelt de grotere trend van toenemend toezicht op digitale hulpmiddelen in de rechtspraak, wat advocatenkantoren kan dwingen tot het ontwikkelen van nieuw beleid en trainingen rondom AI-gebruik.

Lees het volledige artikel van AI Insider.