AI Act laat winkels AI-camera’s ongemeld

Arnoud Engelfriet, ict-jurist bij ICTRecht, verduidelijkt de meldplicht voor winkels die kunstmatige intelligentie (AI) gebruiken bij camera's, specifiek in het kader van winkeldiefstal. De recente AI Act legt geen transparantieplicht op aan winkels omtrent camera-analyses gericht op klanten. Deze plicht, die sinds 2 augustus 2023 van kracht is, is speciaal gericht op situaties waarin er directe interactie met natuurlijke personen plaatsvindt, wat niet het geval is bij automatische surveillancecamera's.

Engelfriet legt uit dat de AI Act vooral is bedoeld om misleidende interacties, zoals chatbots die zich als mensen voordoen, te voorkomen. De wet vereist duidelijkheid over het gebruik van AI-systemen, maar de definities zijn enigszins vaag. Voor winkels die AI inzetten voor veiligheidsredenen is er geen verplichting om klanten te informeren of te waarschuwen over de aanwezigheid van deze technologie. De interactie die vereist is voor de transparantieplicht is afwezig, tenzij er een directe betrokkenheid van personeel is, bijvoorbeeld als een beveiligingsmedewerker interactie heeft met een scherm dat AI-analyses laat zien.

Anders is de situatie onder de Algemene Verordening Gegevensbescherming (AVG). Engelfriet wijst erop dat het gebruik van AI voor het signaleren van mogelijke winkeldiefstal onder de AVG valt als geautomatiseerde besluitvorming. Dit roept vragen op over of de regelgeving van artikel 22 van toepassing is, dat van toepassing is op beslissingen die een significante impact op personen hebben. Hoewel er onduidelijkheid blijft over de mate waarin klanten door AI-beslissingen worden beïnvloed, is er wel een duidelijke verplichting voor winkels om informatie te verstrekken over de verwerking van persoonsgegevens die tot een dergelijke signalering leidt.

Volgens Engelfriet is het noodzakelijk dat winkels zichtbaar informeren over het gebruik van AI-technologie, onder meer door het plaatsen van meldingen binnen de winkel. De unieke aard van dit soort gegevensverwerking rechtvaardigt volgens hem dat klanten op de hoogte zijn van het AI-gebruik en de implicaties daarvan.

Lees het volledige artikel van AI Insider.