Adobe en OpenAI implementeren AI-watermerken

In het steeds verder toenemende gebruik van digitale media door techbedrijven, hebben spelers zoals Adobe en OpenAI recent onzichtbare watermerken geïntroduceerd in AI-geproduceerde beelden, audio en video. Deze watermerken zijn bedoeld om de herkomst van media aan te geven, met als doel misleiding te voorkomen en duidelijke informatie te verstrekken aan gebruikers. In Nederland en Europa groeit de adoptie van deze technologie, ondersteund door bezorgdheid over deepfakes en de aankomende AI-verordening die verplicht tot herkenbaarheid van synthetische content.

Technologieën zoals Google’s SynthID en Adobe’s Content Credentials, gebaseerd op de C2PA-standaard, zorgen voor een nieuwe standaard in het verifiëren van digitale media. Sociale platforms zoals Meta voegen ook herkomstlabels toe aan AI-content. Beeldbanken en redacties integreren deze aanpak door herkomstinformatie in de metadata van hun media te verwerken, hoewel opensource-modellen zoals Stable Diffusion nog voor uitdagingen zorgen bij de standaardisering van watermerken.

Ondanks de voordelen van onzichtbare watermerken, zijn ze niet perfect en kunnen ze kwetsbaar zijn voor manipulatie. Compressie, bijsnijden of het toepassen van filters kan de herkomstinformatie aantasten. Dat betekent dat de authenticiteit van synthetische media niet altijd te verifiëren is via watermerken alleen. Daarnaast staat de huidige regelgeving in de Europese AI-verordening voor concrete veranderingen, waarbij overheden verplicht worden om duidelijk te maken wanneer beelden of teksten door AI zijn gegenereerd, wat extra druk legt op transparantie en controle.

Voor organisaties zoals ministeries en gemeenten betekent dit dat zij moeten investeren in technologieën en processen voor het toevoegen van herkomstlabels in hun workflow. Door het gebruik van open standaarden zoals C2PA kan ook de toegang voor kleinere spelers worden vergemakkelijkt, waardoor de adoptie breder wordt. Het benadrukken van de noodzaak van duidelijk zichtbare publiekslabels helpt om vertrouwen en transparantie te waarborgen. Het breed toepassen van watermerken en trainingen voor medewerkers over deze technologieën zijn essentieel voor het waarborgen van betrouwbaarheid en compliance in deze nieuwe digitale realiteit.

Lees het volledige artikel van AI Insider.