ChatGPT, Google Gemini en Meta: AI-slop als onverwacht hoopvol begin

De term "AI-slop" heeft de laatste tijd de aandacht getrokken in de media, sociale platforms en e-commerce. Dit verwijst naar de snel geproduceerde, vaak foutieve teksten en afbeeldingen afkomstig van kunstmatige intelligentiemodellen zoals OpenAI's GPT-4 en Midjourney. De lage kwaliteit van deze inhoud leidt tot zichtbare problemen, wat druk uitoefent op zowel platforms als toezichthouders in Europa en Nederland om actie te ondernemen. De komst van de Europese AI-verordening, die duidelijke labels en strengere regels gaat introduceren, wordt daardoor versneld.

AI-slop is te herkennen aan oppervlakkige blogs, misleidende productreviews en onnauwkeurige beelden. De door algoritmen gegenereerde content, bedoeld om kliks te genereren, vertoont vaak herkenbare fouten zoals vreemde handen en niet-bestaande feiten. Daardoor is het probleem voor gebruikers, redacties en beleidsmakers zichtbaar geworden, wat op zijn beurt de druk op platforms vergroot om transparant te zijn over de oorsprong van deze inhoud. Merken en adverteerders zien ook de risico's van onbetrouwbare content, hetgeen hen ertoe aanzet om om herkomstlabels en verificatie te vragen.

In reactie op deze druk nemen grote platforms weliswaar initiatieven, maar met zorgvuldigheid. Meta introduceert "Made with AI"-labels en YouTube verplicht makers om AI-bewerkingen te melden. Daarnaast wordt gewerkt aan technische sporen, waarbij Google bijvoorbeeld SynthID gebruikt als een onzichtbaar watermerk voor media. Ondanks deze ontwikkelingen blijven er echter tekortkomingen bestaan; labels kunnen worden omzeild, en de detectie van synthetische inhoud is niet altijd betrouwbaar.

De Europese AI-verordening, die in fasen tussen 2024 en 2026 zal ingaan, legt extra verplichtingen op aan aanbieders van synthetische media en platforms die deze verspreiden. Dit betekent dat organisaties, waaronder overheden en scholen, hun inkoopprocessen en publicatiebeleid moeten aanpassen. Generatieve AI-systemen, die werken met enorme hoeveelheden data, voldoen bovendien aan de eisen van de Auteursrechtrichtlijn en de Algemene Verordening Gegevensbescherming (AVG), hetgeen invloed heeft op het gebruik van zulke diensten binnen publieke instellingen.

Terwijl AI-slop de aandacht vestigt op de noodzaak van kwaliteitsverbetering, biedt dit ook een kans voor serieuze media- en communicatiediensten. Door transparant te zijn en menselijke eindredactie toe te passen, kunnen zij het vertrouwen van het publiek versterken. Het is bovendien essentieel voor gebruikers om alert te blijven op herkomstlabels en duidelijk te kiezen voor betrouwbare bronnen.

Lees het volledige artikel van AI Insider.