Vertrouwen in AI voor Beveiliging Blijft Achter

In Nederland en Europa wordt generatieve AI, zoals Microsoft Copilot en OpenAI ChatGPT, snel geïntegreerd in diverse sectoren, waaronder het bedrijfsleven, onderwijs en overheid. Deze ontwikkeling gaat echter sneller dan de implementatie van geschikte beveiligingsmaatregelen, zoals blijkt uit de zorgen van securityteams en toezichthouders. De druk van productiviteits- en kostenoptimalisatie doet het belang van de Europese AI-verordening toenemen, welke strenge eisen stelt aan risicobeheer en datakwaliteit.

AI-assistenten zijn inmiddels een integraal onderdeel geworden van kantoorsoftware en ontwikkeltools. Veel organisaties hebben nog geen adequaat dreigingsmodel voor deze nieuwe systemen ontwikkeld, hetgeen leidt tot blinde vlekken in veiligheidsprocedures. Samenwerking tussen inkoop en security is vaak onvoldoende, waardoor de risico’s van schaduwgebruik van AI-tools door medewerkers toenemen. Dit kan resulteren in datalekken en een gebrek aan controle over bedrijfsgevoelige informatie.

Daarnaast is de aanpak van cyberaanvallen op AI-systemen een punt van zorg. Aanvallers richten zich niet alleen op de broncode, maar ook op de input en context van AI-systemen. Risico’s als prompt-injecties en data-manipulatie kunnen leiden tot ongewenste resultaten. De recente Europese AI-verordening legt bovendien strenge eisen op aan zowel leveranciers als gebruikers van generatieve AI-systemen, waarbij transparantie, datakwaliteit en beveiliging centraal staan.

Om de risico’s te minimaliseren, wordt aangeraden dat organisaties beginnen met een inventarisatie van hun AI-toepassingen en duidelijke beleidsmaatregelen formuleren. Dit omvat het uitsluiten van privé-accounts voor werkdata, gebruik maken van zakelijkere versies van AI-tools, en het implementeren van strikte toegangscontrole. Het opstellen van governance en training voor medewerkers over het veilige gebruik van AI is cruciaal. Het vinden van de juiste balans tussen snelheid en zekerheid blijft een uitdaging, maar een gedegen aanpak kan leiden tot een verhoogd vertrouwen in AI-technologieën.

Lees het volledige artikel van AI Insider.