AI-telefonisten in Nederland moeten zich identificeren

In Nederland is onlangs besloten dat AI-telefonisten bij het begin van elk gesprek moeten aangeven dat ze geen mens zijn. Deze maatregel is ingesteld om misleiding te voorkomen, aangezien spraakrobots steeds menselijker klinken. Toezichthouders verwijzen naar bestaande consumentenregels en de transparantieverplichtingen binnen de Europese AI-verordening.

De verplichting houdt in dat een AI-telefonist duidelijk moet maken dat hij een geautomatiseerd systeem is. Wachten met deze bekendmaking tot later in het gesprek voldoet niet, omdat een eerste indruk cruciaal is voor het opbouwen van vertrouwen. Deze duidelijkheid is met name belangrijk voor oudere mensen of mensen die afhankelijk zijn van telefonische assistentie, om misleiding en mogelijke oplichting te voorkomen.

De AI-verordening benadrukt een algemene transparantieplicht voor systemen die interactie hebben met mensen. De handhaving van deze regels in Nederland zal via meerdere lijnen verlopen, waaronder toezicht op consumentenpraktijken en privacy door verschillende autoriteiten. Organisaties dienen hun scripts en IVR-menu’s aan te passen en moeten ervoor zorgen dat melding van een AI-systeem in begrijpelijke taal wordt gedaan, ook voor minder digitaal vaardigen.

Verder wordt aangeraden om duidelijke interne procedures te implementeren, zoals privacyverklaringen en verwerkingsregisters, en om leveranciers van spraaktechnologie te betrekken bij de naleving van deze regels. Burgers zullen door deze maatregelen beter inzicht krijgen in met wie zij communiceren, terwijl overheden en instellingen ervoor moeten zorgen dat deze transformatie niet ten koste gaat van de kwaliteit van de dienstverlening.

Lees het volledige artikel van AI Insider.