Trump plaatst AI-video op X; debat over deepfakes

Deze week heeft Donald Trump verschillende AI-bewerkte berichten gedeeld op de sociale mediaplatforms X en Truth Social. Een ophefmakende video leek authentiek, maar was synthetisch bewerkt en miste een duidelijk label. Het verspreidde zich snel over andere platforms, wat de discussie over deepfakes in de politieke arena opnieuw aanwakkert, vooral gezien de implicaties van de Europese AI-verordening voor overheden en platformen.

In de video werden onderdelen kunstmatig gemanipuleerd, wat het voor de kijker uiterst moeilijk maakt om feit van fictie te onderscheiden. Dit fenomeen is vooral problematisch in de politiek, waar invloedrijke figuren zoals Trump een groot bereik hebben. De timing van dit soort content, vooral rond politieke gebeurtenissen, verhoogt de risico's en de impact aanzienlijk. Deepfakes zijn een product van AI-technologie die gebruikmaakt van generatieve modellen om realistische vervalsingen van beelden en geluid te creëren.

Met de Europese AI-verordening (AI Act) wordt verenigbare transparantie vereist voor deepfake-inhoud. Makers en verspreiders moeten synthetische media goed labelen om misleiding te voorkomen. Vooral voor Nederlandse overheden geldt dat labels moet worden toegevoegd aan alle gegenereerde of bewerkte media. Het niet naleven kan sancties met zich meebrengen, en communiceerteams dienen daarom een goed labelingsysteem en controlemechanismen te implementeren.

Bovendien moeten grote platforms zoals X en YouTube voldoen aan de Digital Services Act (DSA), die hen verplicht om desinformatie, zoals dat rond verkiezingen, te beheersen. Echter, handhaving is inconsistent, wat betekent dat genomen maatregelen, zoals labeling, vaak pas laat of helemaal niet worden ingezet. Dit creëert een handhavingsgat, vooral als content via andere platformen wordt verspreid. Initiatieven zoals Community Notes op X en onafhankelijke fact-checkers bieden enige ondersteuning maar zijn meestal reactief, wat problematisch is gezien de snelheid van generatieve content. Ter afsluiting benadrukken experts dat verificatie en transparante labeling essentieel zijn om de integriteit van beeldmateriaal te waarborgen en het vertrouwen van het publiek te behouden.

Lees het volledige artikel van AI Insider.