AI-porno: risico's en regelgeving

AI-porno, het gebruik van kunstmatige intelligentie voor het creëren van expliciete beelden, groeit snel op internet. Deze trend, vooral gevoed door beeldgeneratoren zoals Stable Diffusion en apps die gezichten kunnen verwisselen, heeft geleid tot een toename van fotorealistische seksbeelden die vaak zonder toestemming van betrokkenen worden gemaakt. Ondanks dat platforms zoals OpenAI en Midjourney expliciet pornografische content verbannen, zijn er vele open modellen waarmee men gemakkelijk deepfakes kan produceren. De combinatie van lage kosten, anonieme betalingen en de beschikbaarheid van AI-tools vormt een ideale voedingsbodem voor een grijze markt rondom niet-consensuele inhoud.

In Nederland is het vervaardigen en delen van seksueel beeldmateriaal zonder toestemming strafbaar, een verandering die is verankerd in de Wet seksuele misdrijven die in 2024 van kracht is gegaan. Deze wet heeft als doel om seksueel beeldmisbruik, met inbegrip van deepfakes, aan te pakken. Beelden van minderjarigen zijn te allen tijde verboden, ook indien ze door AI zijn geproduceerd. De Algemene Verordening Gegevensbescherming (AVG) biedt daarnaast een extra laag van bescherming door gezichten als gevoelige persoonsgegevens te beschouwen, wat betekent dat er uitdrukkelijke toestemming nodig is voor gebruik en bewerking.

De Europese AI-verordening (AI Act) introduceert verdere verplichtingen voor makers van deepfakes om deze duidelijk als kunstmatig labelen, met als doel om misleiding bij het publiek te voorkomen. Dit moet gefaseerd gebeuren vanaf 2025. Daarnaast schrijft de Digital Services Act voor dat grote platforms risico’s, zoals niet-consensuele AI-porno, snel moeten rapporteren en aanpakken. Hoewel transparantie en beleid belangrijk zijn, blijft handhaving van cruciaal belang, vooral omdat techbedrijven zeer uiteenlopende regels hanteren. Dit leidt tot problemen bij de detectie van synthetische beelden en grote uitdagingen voor slachtoffers die te maken krijgen met de vermenigvuldiging van hun beelden over verschillende kanalen.

In Nederland zijn er initiatieven om slachtoffers beter te ondersteunen en te adviseren over het vastleggen van bewijs, indienen van verwijderverzoeken en juridische stappen. Er komen ook protocollen voor scholen en gemeenten voor ondersteuning van slachtoffers. De effectieve handhaving van de AI-verordening en andere relevante wetgeving zal uiteindelijk bepalend zijn voor de bescherming van individuen tegen misbruik van kunstmatige intelligentie in de beeldvorming.

Lees het volledige artikel van AI Insider.