CFO kan AI-beslissingen niet uitleggen aan auditor

Veel financieel directeuren (CFO’s) in Nederland en de EU ondervinden problemen bij het uitleggen van beslissingen die zijn genomen door AI-systemen aan auditors. Deze situatie leidt tot spanningen rondom jaarrekeningen en interne controles. De kern van het probleem is dat hoewel algoritmes in de praktijk functioneren, ze vaak niet kunnen worden onderbouwd. Deze kwestie wordt steeds relevanter door de Europese AI-verordening, die strenger toezicht eist op zowel overheid als bedrijfsleven.

Auditors verlangen duidelijkheid over de werking van de gebruikte modellen, met name in de financiële sector waar algoritmes worden ingezet voor prognoses, factuurmatching en fraudedetectie. De gebruikte software, vaak afkomstig van cloudplatforms of ERP-systemen, wordt soms ervaren als een ‘zwarte doos’. Bij interne controles zijn documentatie en reproduceerbaarheid van groot belang. Zonder heldere informatie over data en modelkeuzes stuiten CFO’s op obstakels bij het verdedigen van cijfers en risico-inschattingen. Dit probleem wordt verder complicerend door de variabele uitkomsten van generatieve AI-tools zoals ChatGPT en Google Gemini, die een stabiliteit in audit trails in de weg staan.

De behoefte aan een stevige AI-governance structuur is evident. Veel organisaties hebben geen overzicht van de modellen die zij gebruiken, noch van wie de eigenaren zijn of hoe risico’s zijn ingedeeld. Het is noodzakelijk om elementaire zaken als een modellencatalogus, versiebeheer en testprotocollen op te stellen. Dit houdt in dat er gedocumenteerd wordt welke data, doelen en beperkingen bij elk model horen. Ook moet het mogelijk zijn voor een mens om belangrijke beslissingen te toetsen en zo nodig aan te passen, een proces dat als 'human-in-the-loop' wordt aangeduid.

De nieuwe Europese reguleringen vergroten de druk op organisaties om robuust modelrisicobeheer toe te passen. De AI Act categoriseert bepaalde toepassingen als hoogrisico, wat inhoudt dat ze aan strengere eisen moeten voldoen, inclusief uitgebreide technische documentatie. Met deze uitdaging in het vooruitzicht kunnen CFO’s nu actie ondernemen: begin met het in kaart brengen van alle gebruikte algoritmen, wijs eigenaren toe en stel risico-indelingen op. Het is van cruciaal belang om gemakkelijk te begrijpen uitlegbaarheidstools te implementeren, en medewerkers uit de financiële en IT-afdelingen goed op te leiden omtrent de prestaties en de analyse van AI-modellen.

Lees het volledige artikel van AI Insider.