OpenAI introduceert onzichtbare watermerken voor ChatGPT-teksten

OpenAI heeft aangekondigd dat het de komende weken teksten uit ChatGPT en Codex in de Europese Unie zal voorzien van een onzichtbaar watermerk. Dit initiatief is bedoeld om te voldoen aan de vereisten van de Europese AI-verordening. Het watermerk, dat bestaat uit een statistisch patroon in de tekst, helpt gebruikers bij het identificeren van inhoud die mogelijk door een OpenAI-model is gegenereerd. Deze ontwikkeling is een uitbreiding van OpenAI's bestaande technologieën, die al helpen bij het verifiëren van andere soorten gegenereerde media, zoals afbeeldingen en audio.

Bij het toepassen van het watermerk worden de woordkeuzes van de modellen subtiel aangepast, zonder dat hierdoor zichtbare labels of bijzondere tekens in de tekst verschijnen. OpenAI stelt dat de impact op de snelheid, kwaliteit en leesbaarheid van de teksten minimaal is. Echter, er zijn aanzienlijke beperkingen aan deze technologie; herschrijven of vertalen van de teksten kan het watermerk volledig verwijderen, waardoor het moeilijk is om dit soort teksten op betrouwbare wijze te detecteren.

De introductie van de watermerkdetectie gaat niet vergezeld van een openbaar beschikbare detector. Alleen geselecteerde onderzoekers en deskundige organisaties krijgen in eerste instantie toegang om de technologie te toetsen en te verbeteren. Dit roept vragen op over de effectiviteit en betrouwbaarheid van het watermerk, vooral gezien het feit dat korte teksten vaak niet kunnen worden herkend en detectoren mogelijk foutieve conclusies kunnen trekken. Dit geeft aanleiding tot een breder debat over de authenticiteit van AI-gegenereerde teksten.

Voor gebruikers in Nederland betekent deze ontwikkeling dat teksten van ChatGPT en Codex mogelijk een onzichtbaar signaal bevatten over hun herkomst. OpenAI benadrukt dat de watermerken een aanvullende aanwijzing bieden maar geen definitief bewijs zijn van fraude of de mate van menselijke bijdrage aan de tekst. Context en afspraken over het gebruik van AI blijven essentieel, vooral voor scholen, redacties en werkgevers die met AI-gegenereerde inhoud werken.

Lees het volledige artikel van AI Insider.