EU-AIregels uitgesteld: impact op technologiebedrijven

De Europese Unie gaat dit jaar gefaseerd nieuwe regels voor kunstmatige intelligentie (AI) invoeren, genaamd de AI-verordening (AI Act). Deze wetgeving heeft ingrijpende gevolgen voor bedrijven, overheden en burgers in alle lidstaten. Een nieuw EU AI Office zal de regelgeving coördineren, terwijl landen zoals Nederland hun toezichtstructuren nog inrichten. De invoering van de wetgeving is opgesplitst in verschillende fasen, waarbij sommige verboden toepassingen al snel van kracht worden, terwijl zwaardere verplichtingen voor risicovolle systemen later zullen ingaan.

De AI-Act treedt vanaf de zomer van 2024 in werking met een gefaseerde aanpak. Verboden toepassingen worden al na zes maanden geïmplementeerd, terwijl andere eisen later van kracht worden. Dit geeft bedrijven de kans om zich aan te passen, terwijl tegelijkertijd snel op misbruik kan worden gereageerd. De regels zijn met name gericht op risicosystemen, waarbij de mate van risico bepaalt hoe streng de eisen zijn. Dit heeft directe gevolgen voor de planning en budgettering van organisaties die algoritmen gebruiken.

Verboden AI-toepassingen omvatten onder andere sociale scoring door overheden en het ongericht verzamelen van gezichtsbeelden. Voor Nederland betekent dit dat er snel handhaving moet plaatsvinden, ook in de publieke sector. Gemeenten zijn verplicht om hun experimenten goed te toetsen, aangezien bijvoorbeeld biometrische identificatie op afstand in openbare ruimtes in principe niet is toegestaan, met slechts enkele uitzonderingen.

Aan systemen met een hoog risico worden zware eisen gesteld. Dit betreft bijvoorbeeld AI-toepassingen in onderwijs, zorg en rechtspraak. Organisaties moeten voldoen aan strenge eisen omtrent risicobeheer, datakwaliteit en cyberbeveiliging. Schaalbare AI-systemen, zoals die van OpenAI en Google, krijgen aparte regels die onder andere technische documentatie en samenvattingen van trainingsdata vereisen. Voor bedrijven en overheden is het raadzaam om nu al te starten met een inventarisatie van AI-toepassingen en het vaststellen van risicoklassen om voorbereid te zijn op de nieuwe regelgeving.

Lees het volledige artikel van AI Insider.