Risico's van foutloze AI-gegenereerde teksten

Steeds meer juristen en ambtenaren maken gebruik van generatieve AI-systemen zoals ChatGPT, Microsoft Copilot en Google Gemini voor de creatie van teksten. Dankzij de nauwkeurigheid en kwaliteit van deze teksten blijven inhoudelijke fouten vaak onopgemerkt. Dit heeft directe implicaties voor de naleving van de Algemene Verordening Gegevensbescherming (AVG) en de Europese AI-verordening, wat extra aandacht vereist voor de juridische aansprakelijkheid van deze toepassingen binnen de publieke sector.

De technologie achter grote taalmodellen, zoals GPT-4 en Google Gemini, genereert teksten zonder spelfouten en met een verzorgde structuur. Dit creëert schijnzekerheid bij lezers, die de inhoud eerder als betrouwbaar beschouwen. Echter, deze systemen zijn gebaseerd op statistische datamodellen en kunnen dus onjuiste informatie geven, ook wel aangeduid als 'hallucinaties'. Het risico van gefingeerde uitspraken of onbestaande literatuur is al in andere landen aan het licht gekomen, wat wijst op een potentieel gevaar voor de kwaliteit en betrouwbaarheid van juridische documenten en adviezen.

Voor juridische professionals en overheidsinstanties blijven verantwoordelijkheden bestaan, zelfs wanneer zij AI-gegenereerde teksten gebruiken. Een disclaimer biedt geen bescherming tegen aansprakelijkheid. Ook de privacywetgeving legt strenge eisen op aan de omgang met persoonsgegevens, die in generatieve systemen kunnen worden ingevoerd. Transparantie en bronverificatie worden cruciaal om de integriteit van de informatie te waarborgen. Het is van belang dat organisaties procedures ontwikkelen die voldoen aan de eisen van de Europese AI-verordening en die de controle op gebruikte bronnen verbeteren.

Om de risico's van AI-gegenereerde teksten te verkleinen, wordt geadviseerd het schrijfproces om te keren: eerst bronnen verifiëren en daarna teksten genereren. Dit kan door gebruik te maken van zogenaamde retrieval-augmented generation (RAG) technieken. Bij het implementeren van AI-tools is het essentieel om gebruik te maken van zakelijke versies met strengere privacy-instellingen en zorg te dragen voor adequate dataverwerking en -beveiliging. Daarnaast is het investeren in trainingen voor medewerkers van belang, zodat zij leren kritisch te lezen en de kwaliteit van AI-gegenereerde inhoud te waarborgen.

Lees het volledige artikel van AI Insider.