ChatGPT en Google Bard: risico's voor educatie

Drie onderwijsexperts uitten hun zorgen over de snelle en ondoordachte integratie van kunstmatige intelligentie (AI) in het onderwijs. Systemen zoals ChatGPT en Google Bard worden door docenten soms ongepast ingezet, wat leidt tot risico's wat betreft leren en privacy. Scholen in Nederland en België staan voor de uitdaging om beleid te ontwikkelen dat in lijn is met de Europese AI-verordening en de Algemene Verordening Gegevensbescherming (AVG). Het is van belang om duidelijke richtlijnen te creëren, gerichte training te bieden en eerlijke toetsmethoden te handhaven.

Op veel scholen experimenteren leraren met generatieve AI-tools zonder dat daar vast beleid of evaluatie aan ten grondslag ligt. Dit resulteert in inconsistentie in de kwaliteit van het onderwijs en vertrouwdheid met onbetrouwbare inhoud. Een frequent voorkomende fout is dat leraren content letterlijk overnemen uit chatbots zonder deze kritisch te controleren, wat leidt tot misverstanden bij studenten. Onderwijsinstellingen werken wel aan richtlijnen, maar de implementatie verloopt traag.

Generatieve AI heeft de potentie om waardevolle onderwijsmaterialen te produceren, maar de systemen zijn vaak niet in staat om nauwkeurige of relevante informatie te leveren. Bovendien kunnen vooroordelen in de gegevens tot ongewenste uitkomsten leiden. Het gebruik van dergelijke tools moet daarom goed worden begeleid. Scholen worden steeds voorzichtiger en verleggen de focus naar toetsvormen die begrip en proces benadrukken, zoals mondelinge toetsen en tussentijdse versies van opdrachten. Dit vereist een actieve rol van de docent om de integriteit van het leren te waarborgen.

De implementatie van AI in het onderwijs brengt ook aanzienlijke privacyrisico's met zich mee. Veel AI-diensten verzamelen en verwerken gegevens buiten de EU, wat in strijd is met de AVG. Scholen moeten daarom zorgdragen voor dataminimalisatie en veilige gegevensverwerking. Dit houdt in dat persoonsgegevens niet in prompts mogen worden opgenomen en dat er strikte toegangscontroles moeten zijn. Met de komst van de Europese AI-verordening is het cruciaal dat scholen strikte richtlijnen volgen bij het gebruik van AI-oplossingen, waaronder de prioriteit van transparantie en menselijk toezicht.

Om een verantwoorde inzet van AI-tools te waarborgen, moeten educatieve instellingen zich richten op heldere beleid en richtlijnen, inclusief het uitvoeren van impactanalyses (DPIA). Door kleine, gecontroleerde pilots uit te voeren, kunnen scholen inzicht verkrijgen in de effectiviteit en risico’s van AI, waardoor technologie blijft dienen ter ondersteuning van het leren.

Lees het volledige artikel van AI Insider.