AI-vliegwiel vergroot risico van cybercriminaliteit

De Autoriteit Persoonsgegevens (AP) heeft gewaarschuwd dat kunstmatige intelligentie (AI) een vliegwieleffect kan veroorzaken in de toename van cybercriminaliteit in Nederland. Dankzij generatieve AI-technologieën, zoals die ontwikkeld door OpenAI en Google, worden aanvallen op systemen van bedrijven en overheden sneller, goedkoper en geloofwaardiger. Dit verhoogt de kans op datalekken en fraude, wat directe gevolgen heeft voor de naleving van de Algemene Verordening Gegevensbescherming (AVG) en de Europese AI-verordening.

Met generatieve AI-tools kunnen cybercriminelen eenvoudig phishingscripts en andere schadelijke teksten creëren. Deze technologie stelt hen ook in staat om doelwitten effectief te sensibiliseren door snel informatie te verzamelen. Bovendien vergemakkelijken AI-codeassistenten het schrijven en aanpassen van schadelijke scripts. Dit leidt tot een toename van bekende kwetsbaarheden die sneller kunnen worden uitgebuit, wat de druk op cybersecurity maatregelen verhoogt.

Het groeiende aantal datalekken voedt de cirkel van misbruik, aangezien gestolen persoonsgegevens weer gebruikt worden voor geavanceerdere phishing- en identiteitsfraudepraktijken. De AP benadrukt het belang van dataminimalisatie en het implementeren van strikte beveiligingsmaatregelen, waaronder pseudonimisering en versleuteling om de impact van mogelijke datalekken te beperken. Daarnaast moeten organisaties zorgvuldig toezien op het gebruik van AI door medewerkers, met duidelijke beleidsregels en technische blokkades om ontsnapping van gevoelige data te voorkomen.

De Europese AI-verordening legt extra nadrukken op risicobeheer en transparantie voor systemen die met AI werken, vooral als het gaat om hoge risico's. Deze regelgeving heeft directe gevolgen voor publieke sectoren zoals gemeenten en zorginstellingen, waarbij het van belang is dat zij voldoen aan eisen voor documentatie en risicobeoordelingen. Het genereren van vertrouwen bij burgers door transparantie is essentieel voor de toekomst van AI-toepassingen. Organisaties worden aangespoord om stappen te ondernemen die centraal staan in digitale hygiëne, governance voor algoritmen en incidentmanagement met betrekking tot AI-technologieën.

Lees het volledige artikel van AI Insider.