Douyin en Kuaishou laten racistische AI-video’s staan
Op de Chinese sociale mediaplatforms Douyin en Kuaishou circuleren momenteel veel AI-gegeneerde video's waarin racistische stereotypen over buitenlanders worden verspreid. Hoewel de platforms beweren toezicht te houden, blijkt de effectiviteit van de moderatie beperkt. Dit probleem speelt niet alleen in China; ook internationaal vindt dezelfde content zijn weg naar apps als TikTok. Het grote probleem is dat de algoritmen van deze platforms zijn ontworpen om aandacht te genereren, waardoor discriminatie niet effectief wordt aangepakt en de racistische content blijft bestaan.
De gemaakte video's maken gebruik van synthetische stemmen en avatars om negatieve frames over buitenlanders te verspreiden. Ze worden voortgebracht met standaardtools die het mogelijk maken om in korte tijd veel vergelijkbare video's te creëren. Hierdoor kunnen makers gemakkelijk hun bereik vergroten en een publiek opbouwen, terwijl meer schokkende of verdachte content soms niet wordt verwijderd. De Chinese toezichthouder CAC heeft regels geïmplementeerd, maar de handhaving blijft minimaal. Het gebrek aan duidelijke labeling van deepfake content vergemakkelijkt de verspreiding van racistische video's.
De algoritmes van deze platforms stimuleren bovendien de verspreiding van deze content, omdat ze emotionele en controversiële video's belonen. Dit leidt tot een groter bereik en een versnelling van negatieve denkbeelden. In de EU zijn er striktere regels in de vorm van de Digital Services Act en de AI-verordening, welke verplichten tot het markeren van deepfakes en het beperken van risico’s zoals desinformatie en haatzaaien. Deze wetgeving dwingt platforms zoals TikTok, dat eigendom is van ByteDance, tot strengere moderatie in Europa dan hun Chinese tegenhangers.
De opkomst van deze racistische AI-video’s heeft ook gevolgen voor gebruikers in Nederland, waar dergelijke content vaak via reposts op populaire apps verschijnt. Dit vergroot de kans op discriminatie en faciliteert haatzaaien online. Het is daarom essentieel dat er duidelijke meld- en verwijderroutes zijn. Daarnaast kunnen onderwijs en overheid de digitale weerbaarheid van gebruikers versterken. Voor techbedrijven zijn er aanbevelingen geformuleerd, waaronder het verbeteren van detectie van synthetische media en het saneren van misleidende AI-content. Door samen te werken met onafhankelijke onderzoekers kan de effectiviteit van deze maatregelen verder worden bevorderd.
Lees het volledige artikel van AI Insider.
Gerelateerde artikelen
Password 'admin' most used in the Netherlands
According to the annual password research by NordPass, the password 'admin' is the most used password in the Netherlands. This research aims to provide insight into common passwords and the security r...
Tech Festival
18 November 2026
Nvidia clarifies conditions for financing neoclouds
Nvidia recently clarified under which conditions it provides financing for neoclouds, or data and cloud infrastructures. Interim CEO Colette Kress pointed out that Nvidia is only financially responsib...
Tech Festival
18 November 2026
GTA VI: Best reviewed game ever according to the press
With the upcoming release of Grand Theft Auto VI, all eyes are on the first reviews of this long-awaited game. The international press has already had the chance to test the game, and the responses ar...
Tech Festival
18 November 2026