Hoe AI-content detectie werkt: Inzicht van OpenAI tot Google

Steeds meer bedrijven en platforms ontwikkelen AI-detectietools voor tekst en beeld, onder druk van Europese regelgeving en de groeiende behoefte om misleiding en deepfakes tegen te gaan. Grote diensten zoals Google en OpenAI inzetten op waarschuwingen en labels bij synthetische inhoud. Hun inspanningen zijn gericht op zowel het voorkomen van misbruik als het voldoen aan wetten zoals de AI-verordening en de Digital Services Act.

AI-detectie richt zich op het inschatten of inhoud door algoritmes is geproduceerd, vaak aan de hand van taalpatronen of beeldartefacten. Het resultaat van dergelijke detectie is echter een waarschijnlijkheid, geen definitief bewijs. Dit verhoogt de foutgevoeligheid, vooral bij bewerkte of gecomprimeerde bestanden. Tekstdetectors maken gebruik van statistische technieken zoals 'perplexity' om ongelijke zinsstructuren te identificeren, maar zelfs kleine herschrijvingen kunnen de effecten van deze tools ondermijnen.

Om de herkomst van content vast te leggen, introduceren bedrijven zoals Google en Adobe beide methoden: onzichtbare watermerken en metadata labels. Watermerken zijn resistenter gebleken tegen bewerkingen dan metadata en zijn cruciaal voor het traceren van oorsprong na het publiceren. Platforms als Meta en YouTube beginnen ook met het labelen van 'AI'-inhoud waarbij gebruikers meldingen bij vermoedelijke deepfakes kunnen doen, en werken buiten de strenge vereisten van de Digital Services Act.

Ondanks de vooruitgang in AI-detectie, blijven de tools zoals die van OpenAI beperkt, wat leidt tot discussie over hun effectiviteit, vooral in educatieve contexten. Veel onderwijsinstellingen adviseren om AI-detectie te gebruiken als een uitgangspunt voor beoordeling, maar stellen ook dat de inzet van aanvullende signalen cruciaal is om foute beschuldigingen te voorkomen. Dit benadrukt de noodzaak voor combinerende controles, variërend van bronverificatie tot visuele analyses, om een betrouwbare beoordeling van content te waarborgen.

Lees het volledige artikel van AI Insider.