AI-controle faalt in zakelijke diensten

In Nederland maken steeds meer zakelijke dienstverleners gebruik van generatieve AI, zoals ChatGPT en Microsoft Copilot. Echter, de controle op de geschiktheid en nauwkeurigheid van de AI-uitvoer blijft achter, wat risico's met zich meebrengt voor advieskantoren, accountants, en HR-diensten. Klantverwachtingen en de nieuwe Europese AI-verordening zetten organisaties onder druk om kwaliteit te waarborgen, wat essentieel is voor de reputatie en zorgplicht.

De huidige kwaliteitscontrole in veel organisaties is gebrekkig; medewerkers baseren hun oordeel vaak op gevoel en er zijn geen vaste methoden voor beoordeling. Dit verhoogt het risico op onjuiste rapporten en adviezen, mede omdat AI-systemen soms fictieve informatie presenteren als feit. Dit probleem wordt verergerd door het gebrek aan logboeken bij software-updates, waardoor inconsistencies moeilijk te traceren zijn.

Ondanks de snelle ontwikkeling van generatieve AI-tools, zoals die van Google en Microsoft, ontbreekt het aan adequate interne controles. Veel organisaties hebben nog geen centraal beleid en gebruiken verschillende AI-tools zonder afstemming, wat kan leiden tot inefficiënties en verhoogde risico's. De nieuwe Europese AI Act verplicht bedrijven om risicobeheer toe te passen voor hoog-risico AI-toepassingen, waardoor er meer focus komt op kwaliteitsborging en documentatie.

Om de controle en kwaliteit van AI-gebruik in zakelijke dienstverlening te verbeteren, wordt aangeraden om een AI-register in te voeren, waarin gebruikstoepassingen, doelstellingen en verantwoordelijken worden vastgelegd. Daarnaast moeten er controlemechanismen komen, zoals bronvermelding en bias-testen, en is het cruciaal om de expertise van juridische en privacy-experts te integreren in het proces. De samenwerking tussen techniek en mens blijft essentieel om de risico's van AI effectief te beheersen.

Lees het volledige artikel van AI Insider.