Fouten in AI-kaarten benadrukken noodzaak van controle

Onlangs publiceerde de Amerikaanse overheid een kaart, gemaakt met kunstmatige intelligentie, waarop zes Afrikaanse landen onjuist waren weergegeven. Dit incident illustreert de snelheid waarmee generatieve systemen fouten kunnen maken zonder menselijke controle, wat vragen oproept over de noodzakelijke richtlijnen, zeker in het kader van de Europese AI-verordening. Ondanks de overtuigende uitstraling van de kaart, klopten de locatie en namen niet, wat het belang van toezicht onderstreept.

De kaart werd vervaardigd door een generatieve AI-tool, die gegevens uit bestaande trainingsdata gebruikte om een afbeelding te creëren. Dit resulteert vaak in zogenoemde 'hallucinaties': nep-informatie die lijkt op feitelijke gegevens. Menselijke goedkeuring voor dergelijke resultaten, wat bekendstaat als 'human-in-the-loop', lijkt in dit geval te zijn weggelaten. Het is cruciaal dat kaarten altijd vooraf worden gecontroleerd door deskundigen zoals cartografen om dergelijke fouten te voorkomen.

De Europese AI-verordening schrijft strikte richtlijnen voor bij gebruik van AI in de publieke sector, vooral voor systemen met een hoger risico, zoals die welke directe invloed op burgers hebben. Voor generatieve AI-systemen is transparantie essentieel, en basisregels zoals labeling en kwaliteitscontrole zijn ook van toepassing bij minder risicovolle toepassingen. Dit sluit aan bij de praktijken van Nederlandse overheden, die steeds meer algoritmeregisters opstellen en gebruikmaken van een rijksbreed algoritmekader.

Slechte informatie verspreidt zich snel, vooral als het gaat om geografie, waar incorrecte gegevens diplomatieke spanningen kunnen veroorzaken. Het is aan te raden om bij het maken van kaarten gebruik te maken van betrouwbare bronnen en generatieve AI slechts ter ondersteuning in te zetten, niet als primaire bron. Bovendien dienen instellingen duidelijke afspraken met AI-leveranciers te maken, inclusief vereisten voor documentatie en verantwoordelijkheden om miscommunicatie in de toekomst te minimaliseren.

Lees het volledige artikel van AI Insider.