Advocaat gebruikt mogelijk ChatGPT-neptekst en moet €2.300 betalen

Een advocaat uit Amsterdam is door de tuchtrechter veroordeeld tot een kostenvergoeding van meer dan 2300 euro vanwege het gebruik van een nepcitaat in een officiële brief. De zaak, die voortkwam uit klachten over misleiding en gebrekkige controle, benadrukt de verantwoordelijkheden van juristen in het gebruik van generatieve AI-systemen. De advocaat stelde dat het mogelijk een generatieve AI-chatbot was die het citaat had toegevoegd, maar de Raad van Discipline oordeelde dat dit geen excuus biedt voor de gebrekkige broncontrole.

De uitspraak legt de nadruk op de zorgplicht van advocaten als het gaat om de verifieerbaarheid van de informatie die zij presenteren. De tuchtrechter benadrukte dat onverantwoordelijk gebruik van AI niet alleen de integriteit van de rechtsgang schaadt, maar ook kan leiden tot aanzienlijke juridische en financiële consequenties. Dit roept vragen op over de betrouwbaarheid van generatieve AI en hoe deze binnen de juridische praktijk moet worden toegepast.

De Nederlandse Orde van Advocaten heeft eerder al gewezen op de noodzaak voor zorgvuldige omgang met digitale hulpmiddelen. Er is behoefte aan interne richtlijnen, zoals checklists voor broncontrole en verplicht vierogenprincipes voor processtukken. De aanstaande Europese AI-verordening dwingt juridische professionals verder om risico's te inventariseren en passende waarborgen te implementeren. Dit zal de transparantie rond het gebruik van AI-toepassingen tijdens juridische processen aanzienlijk verbeteren.

Deze zaak illustreert dat juridische professionals zich bewust moeten zijn van de risico's van AI. Het belang van het verifiëren van citaten en het zorgvuldig omgaan met cliëntgegevens is essentieel om juridische problemen en reputatieschade te voorkomen. Met de komst van strengere AI-regels ligt er een kans voor advocaten om hun processen en verantwoordelijkheden effectief aan te passen en compliance te waarborgen.

Lees het volledige artikel van AI Insider.