Shadow AI dwingt bedrijven tot keuze voor AI-licenties

Bedrijven in Nederland en Europa zien zich genoodzaakt hun AI-beleid te herzien als gevolg van de opkomst van ‘shadow AI’. Dit fenomeen refereert aan het gebruik van AI-tools zoals ChatGPT, Gemini en Copilot door medewerkers zonder toezicht of goedkeuring van IT. Dit kan aanzienlijke risico's met zich meebrengen voor privacy en gegevensbeveiliging. Organisaties moeten nu een keuze maken over welke AI-licenties zij centraal willen inkopen en hoe zij het gebruik van deze tools binnen de organisatie willen reguleren, mede onder druk van de Europese AI-verordening en de AVG.

Het gebruik van shadow AI kan leiden tot datalekken, onjuiste outputs en ambiguïteit in kostenstructuren. IT-afdelingen hebben hierdoor een beperkt zicht op wat er met bedrijfsdata gebeurt, wat bemoeilijkt dat incidenten adequaat worden aangepakt en dat wordt voldaan aan wettelijke vereisten. Door centraal beleid en richtlijnen te implementeren, kunnen bedrijven deze risico's verkleinen. Het invoeren van rolrechten, auditlogs en een toegestane lijst van AI-tools kan daarbij een significante bijdrage leveren.

Keuzes ten aanzien van AI-licenties zijn cruciaal, aangezien verschillende modellen bepalen wie toegang heeft tot data en hoe lang deze bewaard wordt. Licenties zoals die van Microsoft Copilot of Google Gemini bieden verschillende mate van controle en beveiliging, beïnvloeden de AVG-naleving en verkleinen het risico op datalekken. Organisaties staan voor de keuze om te kiezen tussen gesloten en open modellen, waarbij laatste meer controle biedt, maar hogere operationele kosten met zich meebrengt. Een hybride aanpak, die afhankelijk van de taak het juiste model kiest, wordt steeds gebruikelijker.

Met de afschaffing van nieuwe AI-regelgeving worden eisen voor transparantie en verantwoording steeds strenger. Dit heeft vooral invloed op bedrijven in de hoge-risicoklasse. Het is belangrijk dat organisaties nu beginnen met het opstellen van een duidelijk AI-beleid, waarin toegestane hulpmiddelen zijn vastgelegd en waarmee ze hun beveiliging en compliance kunnen waarborgen. Gezien de tekortkomingen die nu nog bestaan in auditlogs en talenmodellen moet er ook een noodzaak zijn voor meer uniforme evaluatietools en zichtbaarheid van AI-acties.

Lees het volledige artikel van AI Insider.