OpenAI, Microsoft, Google: verliezen bedrijven controle over AI?

In de afgelopen maanden hebben grote technologiebedrijven zoals OpenAI, Microsoft en Google te maken gehad met diverse problemen omtrent hun AI-systemen. Incidenten met tools zoals Google Gemini en Microsoft Copilot hebben geleid tot bezorgdheid over de controle die bedrijven hebben over deze technologieën. Met de aanstaande Europese AI-verordening en de Algemene Verordening Gegevensbescherming (AVG) wordt de urgentie voor bedrijven om hun algoritmen en datamodellen op orde te brengen steeds groter.

Recente voorbeelden, zoals de fouten bij Google Gemini en de privacykwesties met Microsoft Copilot, tonen aan dat er aanzienlijke kwetsbaarheden zijn in generatieve AI. Dit heeft niet alleen invloed op gebruikerservaring en vertrouwen, maar kan ook juridische en reputatieschade veroorzaken voor de betrokken organisaties. Een incident waarbij een chatbot van Air Canada foutieve informatie gaf, laat zien dat een verkeerd antwoord door AI als een bindende belofte aan consumenten kan worden uitgelegd, wat de noodzaak voor kwaliteitscontrole en transparantie onderstreept.

Een ander probleem is het gebrek aan menselijke controle over AI-systemen. Veel organisaties vertrouwen op automatische processen zonder voldoende toezicht, wat resulteert in onvoorspelbare uitkomsten, vooral bij generatieve AI. De Europese AI-verordening, die tussen 2025 en 2026 in fases wordt ingevoerd, stelt dat risicobeheer en menselijk toezicht noodzakelijk zijn. Dit betekent dat bedrijven nauwkeurige documentatie en databeheer moeten onderhouden om aan de nieuwe eisen te voldoen.

In Nederland houdt de Autoriteit Persoonsgegevens toezicht op de naleving van privacynormen in zowel de publieke als de private sector. Dit heeft geleid tot de opzet van een algoritmetoezichthouder en het publiceren van algoritmeregisters door gemeenten. De lessen van de Toeslagenaffaire, zoals het belang van transparantie en menselijk ingrijpen, zijn relevanter dan ooit nu Europese regelgeving gedetailleerde eisen stelt aan algoritmen en AI. Bedrijven en publieke instellingen moeten nu actie ondernemen om hun processen, technische oplossingen en cultuur te verbeteren om zo de controle over AI te waarborgen.

Lees het volledige artikel van AI Insider.