Experts vragen om labelen van AI-afbeeldingen

Beleidsmakers in de EU, evenals grote technologiebedrijven zoals OpenAI, Google en Meta, hebben samen de noodzaak benadrukt om elk AI-gegenereerd beeld te voorzien van een zichtbaar label. Dit initiatief komt op het moment dat de Europese AI-verordening wordt ingevoerd, met als doel de verspreiding van misleidende inhoud en deepfakes, met name tijdens verkiezingen en nieuwsverslagen, tegen te gaan.

De Europese AI-verordening verplicht aanbieders en gebruikers van generatieve AI-systemen om synthetische beelden duidelijk te markeren, vooral wanneer deze anders gemakkelijk voor echt kunnen worden aangezien. Deze eis streven zowel transparantie omtrent deepfakes na, als bij onschuldige marketingafbeeldingen die door AI zijn vervaardigd. De regels zullen gefaseerd worden ingevoerd tussen 2025 en 2026. Met de implementatie van de Digital Services Act worden grote platforms bovendien ook verplicht om de risico’s rond synthetische media proactief aan te pakken.

Het invoeren van labels is niet alleen van invloed op grote techbedrijven, zoals Meta en Google, die al systemen ontwikkelen om de herkomst en het labelen van AI-beelden te faciliteren, maar ook op Nederlandse overheden. Deze zullen ervoor moeten zorgen dat AI-beelden die in publieke communicatie worden gebruikt, herkenbaar zijn. Dit heeft impact op aanbestedingen en inkoopprocessen van AI-diensten, waarbij duidelijkheid over herkomst en herkomstcontrole cruciaal zijn voor het aandeel publiek vertrouwen.

Ondanks dat er maatregelen genomen worden, zoals het implementeren van watermerken en metadata, blijven er uitdagingen bestaan in de consistentie en veiligheid van deze labels. De Europese Commissie en nationale toezichthouders, zoals de Autoriteit Persoonsgegevens, zullen handhaving en toezicht uitoefenen om ervoor te zorgen dat mistroostige beeldvorming op de juiste wijze wordt aangepakt. Het betreft in wezen een complexe mix van technologie, regelgeving en redactionele principes die samen moeten komen om de impact van AI's op beeldvorming te verkleinen en het vertrouwen in media te behouden.

Lees het volledige artikel van AI Insider.