ChatGPT en Google Bard onbetrouwbaar voor juridische sector

Recent onderzoek onderstreept dat de eerste antwoorden van kunstmatige-intelligentiesystemen, zoals ChatGPT en Google Bard, vaak onbetrouwbaar zijn voor juridisch gebruik. Generatieve chatbots leveren soms tekst die er overtuigend uitziet, maar vaak onjuiste informatie of verouderde wetsartikelen bevat. Dit heeft aanzienlijke implicaties voor juridische professionals, zeker nu Europese regelgeving zoals de AI Act en de AVG aanscherpingen met zich meebrengen voor het gebruik van deze technologieën in de rechtspraktijk.

De eerste reacties van AI-systemen voldoen doorgaans niet aan de eisen binnen de juridische sector. Juristen moeten dus niet alleen de output van deze systemen kritisch toetsen, maar ook gedegen kennis hebben van prompttechnieken om de kwaliteit van de antwoorden te verbeteren. Ervaring in het stellen van gerichte vragen is essentieel, aangezien een gebrek aan specifieke instructies kan leiden tot informatie die niet aansluit bij de juridische noodzaak. Dit wijst op de noodzaak van menselijke controle en iteratief werken voor betrouwbare juridische output.

Bovendien worden de aankomende Europese regelgeving en de noodzaak voor een zorgvuldige omgang met cliëntdata steeds belangrijker. De AI Act legt nieuwe normen op voor transparantie en risicobeperking, met strengere eisen voor systemen die in het juridische domein worden ingezet. Dit vraagt niet alleen om goede procedures, maar ook om opleidingsinitiatieven om juridische professionals beter voor te bereiden op de integratie van AI in hun werkprocessen. De impact van deze wetgeving zal vooral zichtbaar zijn in overheid en gesubsidieerde instellingen, waar de nadruk ligt op menselijke tussenkomst en robuuste testprocedures.

Voor Nederlandse juridische kantoren is er een groeiende belangstelling voor het ontwikkelen van gecontroleerde AI-varianten waarbij data en vertrouwelijkheid gewaarborgd zijn. Er is een noodzaak om kennismanagement te optimaliseren en sjablonen zorgvuldig te ordent, aangezien dit de structuur en consistentie van AI-uitvoer kan verbeteren. Daarnaast is opleiding een cruciale schakel; jonge juristen moeten zowel vaardigheden in prompttechniek als in kritisch lezen aanleren. AI kan efficiëntie verhogen in routinetaken, maar bij complexe juridische vraagstukken blijft menselijke expertise onmisbaar.

Lees het volledige artikel van AI Insider.