TNO: Criminelen misbruiken AI-technologieën voor fraude

Nederlandse veiligheidsonderzoekers van TNO waarschuwen dat criminelen kunstmatige intelligentie steeds vaker uitbuiten voor frauduleuze activiteiten en cyberaanvallen. Taalmodellen, zoals OpenAI's GPT-4 en Meta's Llama 3, worden ingezet om overtuigende phishingberichten en desinformatie te creëren. Ook deepfake-technologieën, zoals Midjourney en Stable Diffusion, dragen bij aan de groei van geloofwaardige oplichting en social engineering. Deze ontwikkelingen hebben significante implicaties voor de Europese AI-verordening, die op het moment van schrijven in de implementatiefase verkeert.

Generatieve systemen stellen criminelen in staat om snel en voordelig nepidentiteiten en misleidende berichten te fabriceren. Een voorbeeld is de 'CEO-fraude', waarbij aanvallers leidinggevenden imiteren met behulp van nagemaakte stemopnames om gevoelige informatie of spoedbetalingen te verkrijgen. Bovendien wordt AI gebruikt voor het verbeteren van kwaadaardige code, waarbij criminelen bestaande drempels omzeilen. De noodzaak voor een gelaagde verdediging, die techniek, processen en menselijk oordeel omvat, wordt daarom steeds urgenter.

Diverse maatregelen kunnen organisaties helpen om weerbaarder te worden. Het is cruciaal om striktere verificatieprocessen voor betalingen en identiteiten in te voeren en om medewerkers bewust te maken van verdachte audio en video. Het toepassing van technische hardening bij het gebruik van chatbots is eveneens noodzakelijk. Het ontwikkelen van documentatie over beslissingen en uitvoeringsmethoden kan bijdragen aan een snellere oplossing van incidenten wanneer die zich voordoen.

De implementatie van watermerken en contentcredentials is essentieel voor het herstellen van vertrouwen, zoals voorgesteld door de nieuwe Europese richtlijnen. Deze maatregelen helpen bij het aantonen van herkomst en voorkomen manipulatie, hoewel ze niet volledig waterdicht zijn. In samenwerking met e-mailstandaarden kan de effectiviteit van deze beveiligingsmaatregelen verder worden vergroot. Overheden moeten daarnaast de inkoop van AI-systemen reguleren en functionarissen gegevensbescherming en CISO's betrekken bij AI-projecten. Oefening en samenwerking met relevante instanties zijn essentieel om de weerbaarheid tegen AI-gestuurde bedreigingen te versterken.

Lees het volledige artikel van AI Insider.