AI-tools als wapen voor cybercriminelen

In Nederland geven securityonderzoekers een alarm over het toenemende gebruik van kunstmatige intelligentie door cybercriminelen voor hackpogingen. Modellen zoals OpenAI’s GPT-4 en Meta’s Llama 3 worden ingezet om phishingaanvallen, codeontwikkeling en kwetsbaarheidsscans te vergemakkelijken. Door recente incidenten en demonstraties op 29 augustus wordt duidelijk dat de barrières voor aanvallen lager zijn en de snelheid hoger. Deze technologieën maken het gemakkelijker om geloofwaardige phishing-e-mails in het Nederlands te creëren en versnellen de toegang tot kwetsbaarheden.

Generatieve AI-systemen kunnen foutloze e-mails en scripts opstellen, waardoor spearphishing moeilijk te herkennen wordt. Criminele varianten zoals WormGPT zijn gericht op het genereren van frauduleuze teksten. Ondanks dat grote aanbieders pogingen doen om misbruik te beperken, blijven open modellen en de mogelijkheid tot eigen hosting een probleem. Tegelijkertijd kunnen AI-tools ook helpen bij het lokaliseren van kwetsbaarheden in software, wat het risico op datalekken en inbraken vergroot.

Verder kunnen autonome agents, die geprogrammeerd zijn om plannen te maken en tools aan te sturen, inmiddels een rol spelen in penetratietests. Echter, in de praktijk blijkt de autonomie van deze systemen beperkt en zijn ze vaak afhankelijk van menselijk toezicht. Dit benadrukt het belang van menselijke expertise bij het gebruik van AI in cybersecurity. Ethische hackers maken gebruik van deze modellen als assistent, waarbij handmatige goedkeuring essentieel blijft.

De toenemende dreiging heeft geleid tot striktere Europese regelgeving, waaronder de AI Act en de NIS2-richtlijn, die nieuwe verplichtingen opleggen aan aanbieders van AI-systemen. Dit heeft directe gevolgen voor organisaties die AI-tools gebruiken, vooral bij essentiële diensten zoals zorg en digitale infrastructuur. Ook moet er bij defensieve AI-toepassingen rekening gehouden worden met de Algemene Verordening Gegevensbescherming (AVG), wat extra maatregelen verstel om persoonsgegevens te beschermen. Het belang van basishygiëne en goed beveiligingsbeleid blijft cruciaal in deze snel veranderende digitale omgeving.

Voor organisaties is het essentieel om te versnellen in hun cyberbeveiling, zoals het invoeren van strikte beheermaatregelen en de training van medewerkers middels realistische phishing-simulaties. Informatie-uitwisseling over AI-gedreven aanvallen moet verder gestandaardiseerd worden om trends te herkennen en samen sterk te staan tegen deze nieuwe dreigingen.

Lees het volledige artikel van AI Insider.