AI-agents als nieuws-poortwachters: kansen en risico's

Mediabedrijven en omroepen in Nederland en Europa onderzoeken momenteel het gebruik van AI-agents als nieuwe poortwachters voor nieuws en entertainment. Deze geavanceerde systemen zijn in staat om automatisch content te selecteren, rangschikken en publiceren via apps, websites en spraakinterfaces. Het doel van deze technologie is een snellere productie van nieuws en een betere afstemming op de voorkeuren van het publiek. Deze ontwikkeling verlegt de macht van de redacteur naar het algoritme, wat belangrijke implicaties heeft voor zowel de Europese AI-verordening als voor de structuren binnen de overheid en de media.

AI-agents nemen verschillende stappen over in het redactiewerk, zoals het zoeken naar informatie, controleren van bronnen en voorbereiden van artikelen of playlists. Hierdoor verschuift de rol van de eindredacteur naar het systeem dat keuzes maakt over wat zichtbaar en in welke volgorde wordt gepresenteerd. Het gebruik van AI-agents biedt mediabedrijven de mogelijkheid om kosten te verlagen en een meer gepersonaliseerde ervaring te bieden. Echter, deze afhankelijkheid van algoritmes roept zorgen op over fouten of biases, die direct doorwerken naar miljoenen gebruikers.

Redacties onderzoeken op dit moment workflows waarin AI-agents een rol spelen bij het onderzoeks-, productie- en distributieproces. Populaire modellen zoals OpenAI's ChatGPT en Google Gemini worden vaak genoemd voor deze prototypes. De workflow begint meestal met het ophalen van feiten, gevolgd door het schrijven van een concept door de agent. Een tweede agent controleert vervolgens het stuk op stijl en basisfouten, waarna een mens de uiteindelijke versie goedkeurt. Dit proces biedt voordelen, maar ieder gebruik van AI kent risico’s, zoals onjuiste informatie (hallucinaties) en bias in gegevens, die kunnen leiden tot een ongelijkmatige representatie bij de samenstelling van nieuws.

De Europese AI-verordening en de Digital Services Act (DSA) verplichten transparantie bij het gebruik van algoritmen, wat uitdagend kan zijn voor mediabedrijven. Er wordt verwacht dat gebruikers altijd op de hoogte worden gesteld wanneer ze interacteren met een AI-systeem. Terwijl deze regelgeving de noodzaak voor openheid benadrukt, blijven er ook zorgen over auteursrecht en de manier waarop AI-agents content presenteren. Voor Nederlandse omroepen is het behouden van redactionele onafhankelijkheid essentieel, terwijl ze tegelijkertijd AI-gestuurde initiatieven verkennen. Pilotprojecten zijn in ontwikkeling, maar er bestaat nog veel behoefte aan betrouwbare bronvermelding, gedeelde governance en richtlijnen om de risico’s van AI in de media te beheersen.

Lees het volledige artikel van AI Insider.