Rechter corrigeert school: scholier geschorst om AI-deepfakes

Deze week werd een middelbare scholier uit Noord-Brabant geschorst vanwege het maken van AI-filmpjes, wat leidde tot ingrijpen van een voorzieningenrechter. De rechter oordeelde dat de school te snel tot de zwaarste maatregel overging en schorst de verwijdering voorlopig. De zaak raakt aan belangrijke thema’s zoals deepfakes, privacy en de impact van de Europese AI-verordening op het onderwijs. De specifieke app of software die gebruikt is, is niet bekendgemaakt.

Volgens de rechter moet een ingreep als schoolverwijdering goed onderbouwd en proportioneel zijn. De rechten van de leerling op educatie moeten worden afgewogen tegen de behoefte aan schoolorde en veiligheid. De beslissing van de school om de leerling te verwijderen, dient voorafgaand te worden geëvalueerd of lichtere maatregelen, zoals schorsing of begeleiding, ook een optie zijn. Dit benadrukt het belang van zorgvuldig en eerlijk beleid binnen het onderwijs.

Deepfakes zijn AI-gegenerate of bewerkte beelden die misleidend kunnen zijn en reputatieschade kunnen veroorzaken. Dit kan leiden tot een onveilige omgeving op school. De juridische beoordeling van dergelijke beelden hangt af van hun inhoud en de context waarin ze zijn gemaakt en verspreid. Educatieve instellingen dienen duidelijke richtlijnen te hanteren bij het omgaan met digitale media en persoonsgegevens volgens de Algemene Verordening Gegevensbescherming (AVG).

Deze zaak onderstreept de noodzaak voor scholen om proactief beleid te ontwikkelen omtrent AI-gebruik en digitale media. De Europese AI Act verplicht scholen om transparantie te bieden over synthetische media, en dit stelt nieuwe eisen aan hun beleid. Scholen moeten heldere huisregels formuleren en aandacht besteden aan onderwerpen zoals mediawijsheid, auteursrecht en hoe om te gaan met meldingen. Dit verhoogt niet alleen de veiligheid maar versterkt ook de juridische positie van onderwijsinstellingen.

Lees het volledige artikel van AI Insider.