Douyin en Kuaishou laten racistische AI-video’s staan

Op de Chinese sociale mediaplatforms Douyin en Kuaishou circuleren momenteel veel AI-gegeneerde video's waarin racistische stereotypen over buitenlanders worden verspreid. Hoewel de platforms beweren toezicht te houden, blijkt de effectiviteit van de moderatie beperkt. Dit probleem speelt niet alleen in China; ook internationaal vindt dezelfde content zijn weg naar apps als TikTok. Het grote probleem is dat de algoritmen van deze platforms zijn ontworpen om aandacht te genereren, waardoor discriminatie niet effectief wordt aangepakt en de racistische content blijft bestaan.

De gemaakte video's maken gebruik van synthetische stemmen en avatars om negatieve frames over buitenlanders te verspreiden. Ze worden voortgebracht met standaardtools die het mogelijk maken om in korte tijd veel vergelijkbare video's te creëren. Hierdoor kunnen makers gemakkelijk hun bereik vergroten en een publiek opbouwen, terwijl meer schokkende of verdachte content soms niet wordt verwijderd. De Chinese toezichthouder CAC heeft regels geïmplementeerd, maar de handhaving blijft minimaal. Het gebrek aan duidelijke labeling van deepfake content vergemakkelijkt de verspreiding van racistische video's.

De algoritmes van deze platforms stimuleren bovendien de verspreiding van deze content, omdat ze emotionele en controversiële video's belonen. Dit leidt tot een groter bereik en een versnelling van negatieve denkbeelden. In de EU zijn er striktere regels in de vorm van de Digital Services Act en de AI-verordening, welke verplichten tot het markeren van deepfakes en het beperken van risico’s zoals desinformatie en haatzaaien. Deze wetgeving dwingt platforms zoals TikTok, dat eigendom is van ByteDance, tot strengere moderatie in Europa dan hun Chinese tegenhangers.

De opkomst van deze racistische AI-video’s heeft ook gevolgen voor gebruikers in Nederland, waar dergelijke content vaak via reposts op populaire apps verschijnt. Dit vergroot de kans op discriminatie en faciliteert haatzaaien online. Het is daarom essentieel dat er duidelijke meld- en verwijderroutes zijn. Daarnaast kunnen onderwijs en overheid de digitale weerbaarheid van gebruikers versterken. Voor techbedrijven zijn er aanbevelingen geformuleerd, waaronder het verbeteren van detectie van synthetische media en het saneren van misleidende AI-content. Door samen te werken met onafhankelijke onderzoekers kan de effectiviteit van deze maatregelen verder worden bevorderd.

Lees het volledige artikel van AI Insider.