Kwart van NL-organisaties ontdekt AI-fouten

Uit recent onderzoek blijkt dat momenteel een kwart van de Nederlandse organisaties AI-fouten heeft ontdekt. Dit betreft zowel bedrijven als overheden die gebruikmaken van AI-systemen voor diverse doeleinden, zoals kantoorwerk, klantenservice en analyse. De snelle implementatie van generatieve modellen draagt bij aan deze bevindingen, hetgeen belangrijk is voor de Europese AI-verordening en de impact daarvan op zowel de publieke als private sector in Nederland.

De meldingen van fouten komen niet alleen uit de private sector, maar ook uit publieke diensten. Veel voorkomende fouten omvatten verkeerde conclusies, onjuiste samenvattingen en datadoicerroren, vaak aangeduid als 'hallucinaties'. Deze onnauwkeurigheden kunnen aanzienlijke risico's met zich meebrengen, aangezien resultaten soms richtinggevend zijn voor belangrijke besluitvormingsprocessen. De kernoorzaken voor deze fouten zijn vaak een combinatie van slechte datakwaliteit, onvoldoende menselijk toezicht en een gebrek aan duidelijke richtlijnen.

Veel organisaties missen de nodige structuur om AI-uitkomsten adequaat te evalueren. Het ontbreken van een tweede controle en systematische evaluaties zoals A/B-tests bemoeilijkt bijsturing. Dit komt bovenop het gebruik van bekende tools zoals ChatGPT, Microsoft Copilot en Google Gemini, die allemaal werken met grote taalmodellen. De Europese AI-verordening stelt bijkomende eisen aan risicobeheer en documentatie, vooral voor toepassingen die invloed hebben op burgers. Dit vraagt om aandacht voor beleid en inkoop, zoals modelkaarten en impactanalyses, om compliance te waarborgen.

Een belangrijke uitdaging vormt de datakwaliteit, aangezien AI-systemen afhankelijk zijn van voorbeelden. Incomplete of verouderde trainingsdata kunnen leiden tot een opeenstapeling van fouten. Bij besluitvorming, vooral in sectoren zoals zorg en onderwijs, kunnen zelfs kleine onnauwkeurigheden grote gevolgen hebben. Daarom is het essentieel dat organisaties een gestructureerd databeheer hanteren en continue evaluatie van AI-uitvoer toepassen. Uiteindelijk blijft de mens verantwoordelijk voor de eindbeslissing, en het trainen van medewerkers in het effectief formuleren van prompts en beoordelen van resultaten is daarbij cruciaal.

Lees het volledige artikel van AI Insider.