AI-hallucinaties en de implicaties voor advocaten

Onlangs kwam in Nederland een opvallende zaak aan het licht waarbij een advocaat gebruik maakte van door een AI-chatbot verzonnen bronnen in een juridisch document. Dit leidde tot de beschuldiging van een niet-bestaande student, wat niet alleen vragen oproept over de situatie zelf, maar tevens over de zorgplichten binnen de advocatuur en de gevolgen van de aankomende Europese AI-verordening. Generatieve AI, zoals onder andere ChatGPT van OpenAI, staat erom bekend dat het overtuigende maar onjuiste informatie kan presenteren, een fenomeen dat ook wel ‘hallucineren’ wordt genoemd.

Het probleem met de AI-toepassing in juridische contexten is dat het model in staat is om geloofwaardige citaten en referenties te genereren, zelfs als deze afkomstig zijn uit fictieve bronnen. Dit kan ernstige gevolgen hebben, aangezien juridische professionals vanuit strikte ethische standaarden en gedragsregels moeten opereren die vereisen dat feitelijke informatie controleerbaar is. Het vertrouwen op ongeverifieerde AI-uitvoer kan daarom riskante tonen leiden in juridische procedures.

Met de inwerkingtreding van de Europese AI-verordening zullen er strengere eisen worden gesteld aan de transparantie van generatieve systemen. Leveranciers van AI-diensten zullen verplicht worden om duidelijk aan te geven hoe hun modellen zijn getraind en wat de implicaties hiervan zijn voor de eindgebruikers, zoals juristen. Dit betekent dat advocaten en overheidsinstanties een duidelijk beleid moeten ontwikkelen voor het gebruik van AI, inclusief criteria voor verificatie en bronvermelding.

Het is cruciaal dat advocaten omgaan met AI-technologie met een zorgvuldige benadering. Dit houdt in dat zij altijd moeten verifiëren en hun bronnen controleerbaar moeten maken voordat zij deze in juridische documenten gebruiken. Scholing en training op het gebied van generatieve AI zijn essentieel om de risico’s en valkuilen te begrijpen, en om zo fouten in de juridische praktijk te minimaliseren. Door een gedegen beleid en strenge evaluatieprotocollen te hanteren, kan AI veilig worden ingezet in overeenstemming met de ethische normen van de advocatuur.

Lees het volledige artikel van AI Insider.