Tuchtrechter berispt advocaat na fout met ChatGPT

De tuchtrechter voor advocaten in Nederland heeft onlangs voor het eerst een advocaat berispt wegens onzorgvuldig gebruik van kunstmatige intelligentie. Deze uitspraak is een belangrijk signaal voor de beroepsgroep. De advocaat in kwestie had tekst van een AI-systeem overgenomen zonder zorgvuldige controle, wat leidde tot onjuiste informatie en mogelijke risico’s voor de cliënt en de rechtsgang.

In deze zaak heeft de tuchtrechter een berisping opgelegd, een officiële waarschuwing die als serieuze maatregel in het tuchtrecht geldt. Dit markeert een duidelijke grens voor het gebruik van algoritmen door advocaten. De kern van het oordeel benadrukt dat AI kan helpen, maar dat de eindverantwoordelijkheid altijd bij de menselijke advocaat ligt. Feiten en bronnen moeten altijd zelf gecontroleerd worden; zonder deze controle is gebruik van dergelijke systemen onzorgvuldig.

Bij het gebruik van generatieve AI is menselijke controle van cruciaal belang, aangezien deze systemen weliswaar overtuigend kunnen zijn, maar ook fouten of verzinsels kunnen bevatten. Advocaten moeten zorgvuldig nagaan waar informatie vandaan komt en dit verifiëren op officiële platformen. Privacy en geheimhouding zijn ook een zorg bij het gebruik van AI, vooral als vertrouwelijke cliëntgegevens worden ingevoerd in openbare AI-diensten, wat kan leiden tot schending van de AVG.

De uitspraak biedt geen verbod op het gebruik van AI, maar vraagt om duidelijke waarborgen en zorgvuldigheid. De Nederlandse Orde van Advocaten (NOvA) en lokale dekens verwachten deze zorgvuldigheid van advocaten. cliënteel stelt ook steeds vaker vragen over het gebruik van AI-systemen in hun zaken, wat vraagt om transparantie over kwaliteit en kosten. Advocaten worden aangeraden om een duidelijke AI-beleid te ontwikkelen, samen met controles om de verantwoordelijkheid bij het gebruik van AI te beheersen.

Lees het volledige artikel van AI Insider.