Schade door nep-AI-personages en de Europese aanpak

AI-personages, oftewel digitale profielen die door algoritmen worden aangestuurd, zijn aan populariteit gewonnen op sociale media in Nederland en Europa. Deze avatars, die vaak perfecte lichamen en levens vertonen, hebben een merkbare impact op het zelfbeeld van gebruikers. Onderzoek toont aan dat mensen, ook al weten ze dat deze personages kunstmatig zijn, zich toch met hen vergelijken, wat tot gevoelens van onzekerheid kan leiden. Dit verschijnsel, bekend als sociale vergelijking, is bijzonder zorgwekkend voor jongeren, wier zelfbeeld nog in ontwikkeling is.

Hoewel platforms zoals Meta, TikTok en Instagram steeds vaker labels zoals "AI-generated" toepassen op synthetische content, blijkt deze transparantie onvoldoende te zijn om het psychologisch effect van deze beelden te minimaliseren. Dergelijke labels verhogen weliswaar de herkenbaarheid van de content, maar de onweerstaanbare aantrekkingskracht van perfect gestileerde afbeeldingen blijft bestaan. De druk om te voldoen aan onrealistische schoonheidsidealen blijft een probleem, dat niet enkel door een krachtige regelgeving als de AI Act kan worden opgelost.

De algoritmen achter sociale netwerken dragen bij aan deze schoonheidsdruk. Berichten die strakke en foutloze beelden bevatten, genereren vaak meer likes en interactie, waardoor ze vaker worden getoond. Nieuwe technologieën maken het bovendien eenvoudiger dan ooit om deze "perfecte" beelden te produceren, wat leidt tot een overspoeling van zulke content op tijdlijnen. Dit roept belangrijke vragen op over de effecten daarvan op het mentaal welzijn van vooral minderjarigen.

Nieuwe Europese regelgeving, verzorgd door de AI Act en de Digital Services Act, legt verplichtingen op aan aanbieders van synthetische media. Dit omvat maatregelen zoals het gebruik van watermerken en het uitvoeren van risicoanalyses op de impact van algoritmes op gebruikers, vooral jongeren. Dit zijn noodzakelijke stappen, maar er zijn ook bredere aanpassingen nodig in de ontwerpprincipes van sociale netwerken. Het is van cruciaal belang dat platforms gebruikers meer controle geven, zodat schadelijke vergelijkingen kunnen worden geminimaliseerd.

Lees het volledige artikel van AI Insider.