Transparantieplicht voor AI-systemen in de EU

In de gehele Europese Unie, waaronder Nederland, zijn nieuwe transparantieverplichtingen voor AI-systemen van kracht, voortvloeiend uit de Europese AI-verordening (AI Act). Deze verplichtingen zijn gericht op het tegengaan van misleiding en het verbeteren van de uitleg voor burgers. Overheden en bedrijven zijn nu verplicht aan te geven wanneer interactie plaatsvindt met algoritmische systemen of synthetische media. Dit heeft directe gevolgen voor publieke diensten, websites en klantcontacten binnen zowel de publieke als de commerciële sector.

AI-systemen die communiceren met gebruikers, zoals chatbots, dienen voortaan een duidelijk herkenbaar label te tonen dat aangeeft dat er interactie plaatsvindt met een digitaal systeem en niet met een mens. De verplichting houdt in dat de communicatie eenvoudig en direct moet zijn, bijvoorbeeld door het tonen van de tekst "U spreekt met een digitaal systeem (AI)". Deze maatregel geldt voor verschillende soorten systemen, van eenvoudige vraag-antwoordsystemen tot meer geavanceerde generatieve modellen. Daarnaast moeten organisaties waarborgen dat de gegeven antwoorden correct zijn, en dienen zij escalatie mogelijkheden naar menselijk contact beschikbaar te stellen.

Naast transparantie in communicatie, geldt er ook een verplichting voor synthetische media, zoals deepfakes, om herkenbaar te zijn. Zo moeten AI-gemaakte beelden, audio- of videomateriaal voorzien zijn van zichtbare labels, tekstuele toelichtingen of technische markeringen. Dit moet ervoor zorgen dat gebruikers snel herkennen dat de inhoud niet op een natuurlijke manier is ontstaan. Deze regels gelden breed, van marketingvideo's tot nieuwsitems en andere vormen van media-inhoud. Er bestaan enkele uitzonderingen, maar deze zijn beperkt en vereisen strikte waarborgen tegen misbruik. De AI-verordening werkt verder samen met de Algemene Verordening Gegevensbescherming (AVG), die aanvullende eisen stelt aan de verwerking van persoonsgegevens bij AI-toepassingen.

De implementatie van de AI-verordening heeft ook gevolgen voor de verantwoordelijkheid van organisaties. Zij moeten nu een inventarisatie maken van waar en hoe AI wordt ingezet en waar de publicatie van transparante meldingen en labels vereist is. Het is daarnaast van belang dat effectieve samenwerking tussen juridische en technische teams plaatsvindt om eventuele risico's en wettelijke verplichtingen in kaart te brengen. Organisaties in Nederland zijn bezig met het opstellen van richtlijnen en uniforme teksten om in te spelen op deze nieuwe verantwoordelijkheden. Met de komst van deze transparantie-eisen wordt verwacht dat ze de basis leggen voor een verantwoordelijke inzet van AI-systemen.

Lees het volledige artikel van AI Insider.