Organisaties lopen achter met AI-begeleiding

Nederlandse organisaties integreren steeds vaker generatieve AI in hun werkprocessen, echter, ze blijven achter wat betreft de noodzakelijke begeleiding en duidelijke richtlijnen. Werknemers maken gebruik van tools zoals Microsoft 365 Copilot, ChatGPT Enterprise en Google Gemini zonder dat er beleid is dat hen ondersteunt in het beschrijven wat wel en niet is toegestaan en hoe om te gaan met gevoelige data. Dit gebrek aan structuur kan leiden tot zogenaamde "schaduw-AI", waarbij medewerkers zelf applicaties kiezen als alternatieven ontbreken, wat de controle en toezicht bemoeilijkt.

De snelheid waarmee organisaties AI-tools adopteren, gedreven door kostenbesparingen en productiviteitsdruk, gaat vaak ten koste van noodzakelijke randvoorwaarden zoals autorisaties, logging, en kwaliteitscontrole. Dit verschuift de focus van productiviteit naar governance pas na het optreden van problemen, wat risico’s met zich meebrengt zoals datalekken en verkeerde bedrijfsbeslissingen. Het is van belang dat AI-systemen rekening houden met de AVG-regelgeving, die strikte richtlijnen vereist over dataminimalisatie en gegevensbeveiliging.

Met de inwerkingtreding van de Europese AI-verordening komen er harde eisen die organisaties verplichten hun AI-toepassingen te classificeren op risiconiveau. Voor systemen die als hoog-risico worden beschouwd, gelden stringentere voorwaarden wat betreft datakwaliteit, documentatie en menselijke controle. De komende jaren zal de handhaving van deze regels steeds urgenter worden, met potentieel hoge boetes voor overtreders. Organisaties moeten processen documenteren en kunnen verantwoorden hoe ze AI gebruiken, zeker in de publieke sector waar grondrechten in acht genomen moeten worden.

Om adequate controle en toezicht te waarborgen, moeten organisaties kritischer kijken naar de inkoop van AI-systemen en leveranciers. Een solide AI-beleid dat richtlijnen biedt voor goedkeuring van tools en gebruik van data is essentieel. Investeren in training voor medewerkers, en het implementeren van technische maatregelen zoals versleuteling en rolgebaseerde toegang, zijn cruciaal om risico's te beheersen. Dit gecombineerd met een voortdurende monitoring van AI-initiatieven zal organisaties in staat stellen om de uitdagingen van AI effectief aan te pakken zonder innovatie in de weg te staan.

Lees het volledige artikel van AI Insider.