OpenAI stopt onzichtbaar watermerk in ChatGPT-teksten

Google DeepMind heeft onlangs een innovatief onzichtbaar watermerk gelanceerd voor AI-gegenereerde teksten, genaamd SynthID Text. Deze techniek, die automatisch wordt toegepast tijdens het schrijven, voegt een subtiel patroon toe aan de woordkeuze zonder dat het voor lezers zichtbaar is. Het doel is om de herkomst van teksten beter te herkennen en organisaties te ondersteunen bij de transparantie-eisen van de Europese AI-verordening. SynthID Text wordt uitgerold via Google Cloud’s Vertex AI, en richt zich voornamelijk op zakelijke en publieke instellingen.

De werking van SynthID Text is gebaseerd op kleine aanpassingen in het taalmodel, waarbij bepaalde synoniemen of interpunctie iets vaker gekozen worden. Dit creëert een statistisch spoor dat kan worden gedetecteerd door een speciaal ontworpen detector, zonder de inhoud of stijl van de tekst te veranderen. Echter, de detectiemethodiek is niet waterdicht; bewerkingen zoals parafraseren of vertalen kunnen het signaal verzwakken of zelfs verwijderen. Dit maakt het noodzakelijk om aanvullende bewijsvoering te hebben naast het watermerk in geval van juridische geschillen.

De Europese AI-verordening, die in fasen van kracht wordt tussen 2025 en 2026, vereist dat aanbieders en gebruikers duidelijk maken wanneer content door een algoritme is geproduceerd. Watermerken zoals SynthID Text kunnen dienen als technische hulpmiddelen voor deze naleving, maar het blijft belangrijk om deze approach aan te vullen met logs, metadata en duidelijke publicatieprocessen voor transparantie. Organisaties worden aangemoedigd om nu al hun workflows aan te passen om aan deze toekomstige regelgeving te voldoen.

Naast de zakelijke toepassingen kunnen watermerken ook in de media- en onderwijssector nuttig zijn. Uitgevers en omroepen kunnen dergelijke systemen gebruiken om ingezonden werk beter te screenen, terwijl in het onderwijs detectie kan bijdragen aan betere beoordeling van synthetische content. Echter, er is een risico op misbruik bij het gebruik van detectie zonder redactionele beoordeling, en dus blijft menselijk toezicht cruciaal. Voor organisaties met strikte compliance-eisen kan het watermerken van AI-output de traceerbaarheid verbeteren, terwijl het tegelijkertijd nodig is om privacy- en dataminimalisatieprinicipes in acht te nemen.

Het is van belang dat organisaties nu al stappen ondernemen om watermerken in hun AI-tools te activeren en zichtbaar te labelen voor eindgebruikers. Dit omvat het trainen van teams in het herkennen van synthetische content en het waarborgen van transparantie in beleid en processen. Het vooruitplannen voor de Europese AI-regelgeving kan bedrijven helpen om voorbereid te zijn wanneer de nieuwe regels van kracht worden.

Lees het volledige artikel van AI Insider.