Midjourney-foto en ChatGPT-geruchten: hoe A59-verhaal ontspoorde

Na een tragisch ongeluk op de A59 in Noord-Brabant deed zich deze week een golf van misinformatie voor op sociale media, waarbij een door AI gemaakte foto een belangrijke rol speelde. Deze ogenschijnlijk authentieke afbeelding werd snel verspreid op platforms zoals X, Telegram en Facebook, terwijl het onderzoek naar het incident nog gaande was. Het voorval onderstreept hoe synthetische beelden crisiscommunicatie kunnen verstoren, vooral in de vroege fases van een incident waar bevestigde informatie ontbreekt.

De foto die zich verspreidde, leek niet van de plaats van het ongeval te komen, maar zag er wel overtuigend uit. Beelden zoals deze worden vaak geproduceerd door generatieve AI-systemen zoals Midjourney, DALL·E van OpenAI, en Stable Diffusion van Stability AI. Het gebrek aan duidelijke bronnen maakt het voor kijkers moeilijk om het neppe karakter te onderscheiden, vooral op kleinere schermen. Hierdoor verschuift de focus van feitelijke verslaggeving naar speculatieve discussies, wat kan leiden tot extra belasting voor hulpdiensten en nieuwsredacties.

Wat vaststaat, is dat twee mensen omkwamen bij het incident, maar de politie benadrukt dat alleen geverifieerde informatie gedeeld zal worden. De ongecontroleerde circulatie van AI-foto's onderstreept het belang van het onderscheiden van feiten en geruchten. Bovendien benadrukt de AVG dat ongeautoriseerde verspreiding van beelden van slachtoffers en kentekens niet is toegestaan, wat verder complicaties met zich meebrengt voor betrokken autoriteiten. Het is daarom essentieel dat media en publieke instellingen voorzichtig omgaan met het delen van content.

De Europese AI-verordening en de Digital Services Act verplichten tot transparantie bij het publiceren van synthetische media, maar de effectiviteit hiervan bevindt zich nog in ontwikkeling. Technische oplossingen zoals labels en watermerken zijn in gebruik, maar de implementatie is inconsistent. Dit zorgt ervoor dat media op zoek moeten naar betrouwbare bronnen en verificatiemethoden om desinformatie te bestrijden. Nieuwsredacties kunnen zich wapenen met protocollen voor het omgaan met synthetische media en samenwerken met factchecknetwerken. Ook het publiek wordt aangemoedigd om kritisch te zijn op snel verspreide beelden en de bronnen ervan te verifiëren.

Lees het volledige artikel van AI Insider.