AI-video's misbruiken Nepalramp voor clicks

In de nasleep van een ramp in Nepal zijn talloze AI-video’s opgedoken die bestaan uit gefingeerde of overdreven scènes. Makers van deze video's maken gebruik van generatieve systemen zoals Runway Gen-3 en Pika om dramatische beelden te vervaardigen, die vervolgens op platforms als YouTube, TikTok en Facebook worden geplaatst. Hun doel is om maximale zichtbaarheid en advertentie-inkomsten te genereren, iets wat wordt aangemoedigd door algoritmen die emotie en snelheid belonen. De situatie roept vragen op over de effectiviteit van de Europese AI-verordening en de Digital Services Act, aangezien deze richtlijnen van invloed zijn op zowel de platforms als de handhaving door de overheid in de EU.

De video's integreren echte fragmenten met door AI gegenereerde beelden, zoals ingestorte bruggen en reddingsoperaties die nooit hebben plaatsgevonden. Dit leidt tot verwarring bij het publiek, vooral tijdens een tijd waarin hulpdiensten behoefte hebben aan betrouwbare informatie. De lage drempel voor publicatie en hogere kijkcijfers die geweld of sensatie uitlokken, zorgen ervoor dat hele kanalen zich richten op rampennieuws met AI-effecten. Dit heeft schadelijke gevolgen voor slachtoffers en hun families, en kan de effectiviteit van hulpacties verstoren.

De aanbevelingssystemen van video-platforms zijn ingericht op hoge betrokkenheid, wat inhoud die heftige emoties oproept voorrang geeft. Dit creëert een risico voor merken die onbedoeld naast deze misleidende video's kunnen verschijnen, wat kan leiden tot reputatieschade. De Digital Services Act legt bijkomende verantwoordelijkheden op voor grote platforms om systemische risico's door desinformatie tegen te gaan, waaronder verbeterde detectie van nepinhoud en bescherming van gebruikers. Zeker nu de inzet van AI om diepere nepcontent te produceren toeneemt, is transparantie over de herkomst van beelden van cruciaal belang.

Met toekomstige regelgeving is het essentieel dat aanbieders en gebruikers duidelijk maken wanneer inhoud door AI is geproduceerd, zoals bij deepfakes. Initiatieven zoals C2PA-contentcredentials, ondersteund door bedrijven als Adobe en Microsoft, beogen om het vertrouwen te herstellen door digitale stempels op media aan te brengen. Tevens benadrukken de Autoriteit Consument & Markt en de Autoriteit Persoonsgegevens de noodzaak van een striktere kaders voor moderatie en het veiligstellen van redactiestrategieën in de tijd van crisiscommunicatie.

Lees het volledige artikel van AI Insider.