DGFiP zet AI in na datalek van 678.000 Fransen

De Franse belastingdienst, de DGFiP, heeft nieuwe algoritmen geïntroduceerd als reactie op een ernstige hack waarbij de persoonlijke gegevens van 678.000 belastingbetalers zijn blootgesteld. Met deze technologie beoogt de fiscus verbeterde controle bij inloggen en verdachte activiteiten op haar online platformen. Deze maatregelen zijn niet alleen een directe reactie op het datalek, maar ook in lijn met de Algemene Verordening Gegevensbescherming (AVG) en de Europese AI-verordening.

De DGFiP implementeert nu systemen voor patroonherkenning die verdachte inloginpogingen en wijzigingen in accounts sneller identificeren. Dit systeem leert van eerdere voorbeelden en markeert afwijkingen, zoals ongebruikelijke tijden of het gebruik van nieuwe apparaten, voor verdere controle door werknemers. Bij deze laatste stap is menselijke toetsing essentieel om de rechtspositie van burgers te waarborgen en fouten te minimaliseren. Het gebruik van gegevens gebeurt binnen de kaders van dataminimalisatie, waarbij enkel de noodzakelijke loggegevens worden bewaard.

De hack heeft niet alleen geleid tot de blootstelling van informatie waaronder contactgegevens en accountinformatie van 678.000 belastingbetalers, ook zijn er aanvullende beveiligingsmaatregelen getroffen. Dit omvat onder andere waarschuwingen voor ongewone activiteiten en het resetten van wachtwoorden van verdachte accounts. De DGFiP werkt in deze kwestie nauw samen met de Franse privacytoezichthouder, de CNIL, om ervoor te zorgen dat de rechten van de belastingbetalers onder de AVG worden gerespecteerd.

De meeste van deze technologie en processen zijn echter niet zonder risico's. Risicomodellen kunnen foutieve selecties maken, zoals de filters die tijdens de Nederlandse toeslagenaffaire onterecht slachtoffers selecteerden. Dit beklemtoont het belang van transparante processen, goede datakeuze en duidelijke procedures voor handhaving van rechten voor burgers. Met de Europese AI-verordening moeten alle lidstaten, waaronder Nederland, voldoen aan dezelfde basisregels voor het gebruik en toezicht op dergelijke algoritmische systemen.

Lees het volledige artikel van AI Insider.