FRIA voor AI: impact op OpenAI, Google en Microsoft

De Autoriteit Persoonsgegevens (AP) heeft aangekondigd dat de verplichte Fundamentele Rechten Impact Analyse (FRIA) voor AI-systemen in aantocht is. Deze toets, die onder de Europese AI-verordening (AI Act) valt, richt zich op risicovolle algoritmen en is bedoeld om te waarborgen dat de inzet van kunstmatige intelligentie (AI) geen schade toebrengt aan de rechten van burgers. Organisaties in Nederland moeten zich proactief voorbereiden, aangezien de invoering gefaseerd zal plaatsvinden.

Een FRIA is primair een toets die kijkt naar de impact van AI-technologie op fundamentele rechten, zoals gelijke behandeling en privacy. Voordat een hoogrisico-systeem, dat belangrijke beslissingen ondersteunde zoals in het onderwijs of zorg, in gebruik wordt genomen, is deze toets verplicht. De verantwoordelijkheid ligt bij de "deployer", oftewel de organisatie die het model in de praktijk gebruikt, zoals gemeenten of banken, terwijl de leveranciers van software verantwoordelijk blijven voor hun producten.

De gevolgen van de AI-verordening zijn aanzienlijk, vooral voor overheden en instanties die publieke taken uitvoeren. Ze dienen vóór de implementatie van een hoogrisico-systeem een FRIA af te ronden. Dit heeft impact op gemeentelijke besluitvorming en het gebruik van algoritmen in sociale vraagstukken. De analyse dwingt organisaties tot zorgvuldige keuzes en transparantie, waarbij bestuurders moeten kunnen uitleggen welke waarborgen er zijn voor de toepassing van deze technologie.

Er zijn belangrijke verschillen tussen een FRIA en een gegevensbeschermingseffectbeoordeling (DPIA), zoals deze veelal is vereist onder de AVG. Terwijl een DPIA zich richt op privacyrisico's, kijkt de FRIA breder naar zaken als non-discriminatie en toegang tot essentiële diensten. Organisaties zullen vaak beide analyses nodig hebben, en hiervoor moeten duidelijke rapportages en waarborgen worden opgezet in hun governance-structuur.

Om te voldoen aan de aangekondigde regelgeving, wordt aangeraden om nu al in kaart te brengen welke AI-toepassingen er zijn en per toepassing een eigenaar aan te wijzen. Het opzetten van een gestandaardiseerd proces voor FRIA in combinatie met de bestaande DPIA-stroom kan helpen om straks compliant te zijn met de AI Act. Het trainen van relevante teams in het uitleggen van modeldoelen en de implementatie van menselijk toezicht zijn daarnaast cruciaal om te voldoen aan de nieuwe vereisten.

Lees het volledige artikel van AI Insider.