Risico's van AI-tools zoals ChatGPT en Google Bard

AI-tools zoals ChatGPT, Google Gemini en Microsoft Copilot zijn ontworpen om nauwkeurig te reageren op vragen. Dit lijkt zeer nuttig, maar het kan gevaarlijk worden wanneer de gestelde vragen onvolledig of onnauwkeurig zijn. Deze zorgen zijn recent toegenomen nu dergelijke systemen steeds vaker in onderwijs, overheid en media worden ingezet. De recente Europese AI-verordening heeft potentieel ook invloed op het gebruik van deze technologieën, waardoor organisaties zorgvuldig moeten omgaan met hun implementatie.

De werking van taalmodellen is eenvoudig: ze voorspellen het volgende woord op basis van de ingevoerde vraag, zonder deze te verifiëren. Dit betekent dat een foutieve vraag kan leiden tot een incorrect, maar zelfverzekerd antwoord. Dit kan problematisch worden bij meer complexe onderwerpen zoals beleidsontwikkeling of feitelijke claims, waarbij de mogelijkheid van misinformatie toeneemt. De kwaliteit van de ingevoerde vraag, of prompt, is cruciaal; goede prompts kunnen leiden tot waardevolle inzichten, terwijl slechte prompts resulteren in wat 'garbage in, garbage out' wordt genoemd.

De recente Europese AI-verordening legt verplichtingen op aan aanbieders van AI-toepassingen. Voor meeste AI-modellen geldt dat ze in de categorie 'beperkt risico' vallen, met extra eisen voor transparantie en documentatie. In onderwijs en overheidsinstellingen kunnen sommige toepassingen als 'hoog risico' worden geclassificeerd, hetgeen striktere eisen met zich meebrengt. Voor organisaties betekent dit dat zij burgers, studenten en medewerkers moeten informeren over het gebruik van AI-systemen, evenals proactieve stappen moeten ondernemen om de privacy van persoonsgegevens te waarborgen.

De adoptie van AI in het onderwijs vraagt tevens om duidelijke richtlijnen. Scholen en universiteiten verkennen hoe studenten AI kunnen gebruiken en wat er gerapporteerd moet worden. Detectie van AI-gegenereerde teksten blijkt onbetrouwbaar, waardoor de focus verschuift naar transparantie in het gebruik van AI. Voor organisaties is het essentieel om een helder AI-beleid te formuleren, veilige werkstromen te creëren en medewerkers te trainen in het formuleren van effectieve prompts. Dit is met name belangrijk in scenario's waar de gevolgen van beslissingen hoog zijn.

Samenvattend kan AI waardevol zijn als assistent maar is het niet te beschouwen als een autoriteit. Het gebruik ervan moet nauwgezet worden beheerd en gecontroleerd, waarbij de verantwoordelijkheid altijd bij de gebruiker blijft.

Lees het volledige artikel van AI Insider.