ChatGPT en deepfakes: herkenning blijft complex

In Nederland groeit de bezorgdheid over online fraude die gebruikmaakt van kunstmatige intelligentie (AI). Een recent onderzoek wijst uit dat ongeveer de helft van de bevolking denkt in staat te zijn om nepberichten van bekenden te herkennen, maar deze zelfzekerheid neemt af. Oplichters maken gebruik van platforms zoals WhatsApp, sms en sociale media, waarbij ze deepfakes en gemanipuleerde stemmen inzetten om vertrouwen te winnen. Dit legt druk op technologiebedrijven zoals Meta om adequate maatregelen te nemen, terwijl er tegelijkertijd nieuwe Europese regelgeving, de AI-verordening, in aantocht is.

Generatieve AI, zoals het GPT-4o van OpenAI en Google Gemini, maakt het materiaal dat oplichters gebruiken geloofwaardiger. Foutloze berichten met persoonlijke details bootsen de toon en het gedrag van de afzender na, wat slachtoffers in verwarring kan brengen en hen kan aanzetten tot snel handelen. Daarnaast kunnen oplichters met voice cloning-software stemmen namaken en deepfake-technologie toepassen om de schijn van authenticiteit te wekken. Dit leidt tot situaties waarin het onderscheid tussen echt en nep moeilijk te maken is.

Echter, ondanks de inzet van detectietools en watermerken, blijkt het nog steeds een uitdaging om deepfakes effectief te identificeren. Hoewel sociale media platforms enkele maatregelen implementeren, zoals attributen en beveiligingsfuncties, blijven oplichters zich uitbreiden naar alternatieve communicatiemiddelen. De Europese AI-verordening beoogt in de toekomst duidelijke labeling van synthetische media en extra transparantie voor aanbieders van AI, maar de implementatie van deze regels ligt nog in de toekomst.

In de tussentijd is het van belang dat burgers proactief handelen bij het ontvangen van verdachte berichten. Het verifiëren van informatie via een tweede kanaal en het instellen van beveiligingsopties in apps zijn essentiële stappen om jezelf te beschermen. De samenwerking tussen technologiebedrijven, banken en overheden is cruciaal voor het opzetten van effectieve maatregelen tegen tentoongestelde risico's en misbruik. Gedragsverandering, slow decision-making en voorzichtigheid zijn voorlopig de meest effectieve strategieën tegen de steeds slimmer wordende fraudetechnieken.

Lees het volledige artikel van AI Insider.