Koester weerstand tegen AI in de accountancy

In de Nederlandse accountancy is er een groeiende oproep om de weerstand tegen kunstmatige intelligentie (AI) te koesteren. Kritische teams en klanten kunnen fouten en risico's in tools zoals ChatGPT en Microsoft Copilot vroegtijdig signaleren. Deze aanpak wordt steeds relevanter gezien de strengere regelgeving van de Europese AI-verordening en de Algemene verordening gegevensbescherming (AVG). Het cultiveren van weerstand bevordert niet alleen de veiligheid, maar zorgt er ook voor dat AI-toepassingen juridisch houdbaar zijn.

Kritische vragen binnen organisaties functioneren als een belangrijk waarschuwingssysteem dat datalekken en vooroordelen in data kan blootleggen. Dit sluit aan bij de professionele scepsis die accountants hanteren; er is nooit plek voor blind vertrouwen in systemen. Door toetsmomenten en ‘challenge’-groepen te integreren in elk AI-project, wordt tegenspraak een standaardprocedure, wat resulteert in robuustere beslissingen en minder correcties achteraf.

De AVG stelt heldere grenzen aan het gebruik van AI-tools, waarbij dataminimalisatie en goede beveiliging cruciaal zijn. Organisaties moeten een gegevensbeschermingseffectbeoordeling (DPIA) uitvoeren en afspraken maken met leveranciers omtrent dataverwerking. Locatie van opslag speelt tevens een belangrijke rol; data moet in de EU blijven onder Europese waarborgen. Bij generatieve AI-modellen is het essentieel dat menselijke uitleg en correctie kunnen plaatsvinden om in lijn met de AVG te blijven.

Met de invoering van de AI-verordening worden systemen ingedeeld op basis van risico, met strenge eisen voor hoog-risico toepassingen. Voor accountants- en IT-auditors kan dit betekenen dat er vaker controles op datamodellen nodig zijn. Ondanks de vooruitgang in modellen zoals ChatGPT en Google Gemini blijft er ruimte voor fouten. Om risico's te minimaliseren, raad een gestructureerde aanpak aan bij AI-implementatie, waarbij kleine pilots en strikte toegangsrechten essentieel zijn. Dit zorgt ervoor dat de voordelen van AI benut worden zonder in te boeten op kwaliteit en compliance.

Lees het volledige artikel van AI Insider.