Douyin en Kuaishou laten racistische AI-video’s staan
Op de Chinese sociale mediaplatforms Douyin en Kuaishou circuleren momenteel veel AI-gegeneerde video's waarin racistische stereotypen over buitenlanders worden verspreid. Hoewel de platforms beweren toezicht te houden, blijkt de effectiviteit van de moderatie beperkt. Dit probleem speelt niet alleen in China; ook internationaal vindt dezelfde content zijn weg naar apps als TikTok. Het grote probleem is dat de algoritmen van deze platforms zijn ontworpen om aandacht te genereren, waardoor discriminatie niet effectief wordt aangepakt en de racistische content blijft bestaan.
De gemaakte video's maken gebruik van synthetische stemmen en avatars om negatieve frames over buitenlanders te verspreiden. Ze worden voortgebracht met standaardtools die het mogelijk maken om in korte tijd veel vergelijkbare video's te creëren. Hierdoor kunnen makers gemakkelijk hun bereik vergroten en een publiek opbouwen, terwijl meer schokkende of verdachte content soms niet wordt verwijderd. De Chinese toezichthouder CAC heeft regels geïmplementeerd, maar de handhaving blijft minimaal. Het gebrek aan duidelijke labeling van deepfake content vergemakkelijkt de verspreiding van racistische video's.
De algoritmes van deze platforms stimuleren bovendien de verspreiding van deze content, omdat ze emotionele en controversiële video's belonen. Dit leidt tot een groter bereik en een versnelling van negatieve denkbeelden. In de EU zijn er striktere regels in de vorm van de Digital Services Act en de AI-verordening, welke verplichten tot het markeren van deepfakes en het beperken van risico’s zoals desinformatie en haatzaaien. Deze wetgeving dwingt platforms zoals TikTok, dat eigendom is van ByteDance, tot strengere moderatie in Europa dan hun Chinese tegenhangers.
De opkomst van deze racistische AI-video’s heeft ook gevolgen voor gebruikers in Nederland, waar dergelijke content vaak via reposts op populaire apps verschijnt. Dit vergroot de kans op discriminatie en faciliteert haatzaaien online. Het is daarom essentieel dat er duidelijke meld- en verwijderroutes zijn. Daarnaast kunnen onderwijs en overheid de digitale weerbaarheid van gebruikers versterken. Voor techbedrijven zijn er aanbevelingen geformuleerd, waaronder het verbeteren van detectie van synthetische media en het saneren van misleidende AI-content. Door samen te werken met onafhankelijke onderzoekers kan de effectiviteit van deze maatregelen verder worden bevorderd.
Lees het volledige artikel van AI Insider.
Gerelateerde artikelen
GTA VI: Best gereviewde game ooit volgens de pers
Met de op handen zijnde release van Grand Theft Auto VI, zijn de ogen gericht op de eerste recensies van deze langverwachte game. De internationale pers heeft reeds de kans gehad om de game te testen...
Tech Festival
18 november 2026
Felicis investeert $7,5M in Unsiloed AI voor documentverwerking
Unsiloed AI heeft recentelijk een investering van $7,5 miljoen opgehaald onder leiding van Felicis. Dit innovatieve bedrijf, dat momenteel bestaat uit een team van slechts zeven personen, richt zich o...
Tech Festival
18 november 2026
Humyn Labs haalt $47 miljoen op voor data aan robotica
Humyn Labs, opgericht in februari, heeft met succes $47 miljoen opgehaald om bedrijfstrainingdata te leveren aan Amerikaanse robotica- en AI-ontwikkelaars. Het bedrijf, dat zich in een concurrerende m...
Tech Festival
18 november 2026