Anthropic watermerkt Claude-teksten: nieuwe stap in AI-verantwoording

Anthropic heeft een nieuw digitaal watermerk geïntroduceerd voor teksten die zijn gegenereerd door de nieuwste Claude-modellen. Deze functie wordt gefaseerd uitgerold in de Claude-app en via de API. Het doel van dit watermerk is om de herkomst van teksten zichtbaarder te maken en misbruik tegen te gaan. Dit initiatief sluit aan bij de Europese AI-verordening en heeft implicaties voor zowel de overheid als de media.

Het watermerk, dat als een onzichtbaar merkteken in de tekst is ingebouwd, kan worden gecontroleerd met behulp van een speciale tool. Hierdoor kunnen ontwikkelaars in hun eigen processen, zoals contentmanagementsystemen, integreren dat wordt nagelopen of een tekst door Claude is gecreëerd. Dit helpt bij het identificeren van de bron van teksten, wat cruciaal is in het bestrijden van spam, fraude en desinformatie, met name in de politieke sfeer en rondom publieke diensten.

De Europese AI-verordening stelt eisen aan heldere labeling van door AI-geproduceerde content, waarvoor het watermerk van Anthropic een waardevol hulpmiddel biedt. Dit vergemakkelijkt niet alleen de naleving voor aanbieders van AI-technologie maar ook voor overheidsinstanties die AI-gegenereerde teksten moeten kunnen onderscheiden van menselijke bijdragen. Ondernemingen kunnen hierdoor hun interne richtlijnen beter handhaven en nieuwsredacties kunnen geautomatiseerde controles in hun systemen implementeren, waardoor de moderatie van ingezonden stukken efficiënter wordt.

Het watermerk is niet onfeilbaar; sterke herschrijvingen of samenvattingen kunnen het signaal verzwakken, waardoor detectie een uitdaging blijft. Desondanks biedt het een belangrijke stap richting transparantie en helpt het bij het creëren van vertrouwen tussen gebruikers en contentproducenten. De sector werkt samen aan standaarden voor herkomst, en met de ontwikkeling van interoperabiliteit kan de effectiviteit van verschillende watermerken worden vergroot. Dit vraagt echter ook om duidelijkheid van toezichthouders, zodat implementatie eenvoudiger wordt en juridische onzekerheid vermindert voor onderwijs en andere instellingen.

Lees het volledige artikel van AI Insider.