Baidu’s Ernie en Alibabas AI: zorgen Chinese ai-bots voor minder kinderen?

In China is er dit jaar een groeiend debat rondom AI-companions, oftewel chatbots die fungeren als partner of vriend. Bedrijven als de Xiaoice Company en tech-giganten zoals Baidu en Alibaba bieden dergelijke functionaliteiten aan via populaire apps. Dit leidt tot bezorgdheid bij beleidsmakers en demografen over de mogelijke impact op het reeds lage geboortecijfer van het land. Het onderwerp heeft ook implicaties voor Europa, waar wetten als de AI-verordening en de AVG beperkingen opleggen aan dit soort systemen.

AI-companions zijn geavanceerde algoritmen die menselijke interactie nabootsen, middels tekst, spraak of beeld. Gebruikers kunnen vaak kiezen voor een gepersonaliseerde avatar en een specifieke persoonlijkheid. Deze chatbots, zoals Baidu’s Ernie, zijn in staat om gesprekken te onthouden en emoties te weerspiegelen. De chatbot Xiaoice, oorspronkelijk ontwikkeld door Microsoft, is een van de bekendste voorbeelden en biedt diverse premium functies aan, waaronder virtuele dates. Hun verdienmodellen zijn doorgaans gebaseerd op microtransacties en abonnementen, wat druk legt op de platforms om de gebruikerservaring zo meeslepend mogelijk te maken.

Critici van deze digitale gezelletjes vrezen dat ze het aangaan van echte relaties kunnen bemoeilijken. Een AI-partner is immers altijd beschikbaar en stelt geen eisen, wat de drempel om te daten kan verhogen, vooral bij jongeren die reeds onder druk staan. De huidige demografische uitdagingen in China, waaronder dalende bevolkings- en geboortecijfers, kunnen door deze ontwikkeling versterkt worden. Hoewel er geen hard bewijs voor een direct causaal verband bestaat, roept het gebrek aan onderzoeksdata veel vragen op over de sociale en psychologische impact van AI-companions.

Bovendien verzamelen companion-apps gevoelige persoonlijke gegevens, wat onder Europese privacywetgeving (AVG) extra zorgwekkend is. Het ontwerp van deze systemen is vaak gericht op maximale betrokkenheid, wat de kans op verslaving vergroot. In Europa zijn er strikte eisen voor transparantie en dataminimalisatie van dergelijke gegevens. Daarom is het noodzakelijk dat gebruikers goed geïnformeerd zijn over hoe hun gegevens worden beheerd en de risico’s van hun interactie met AI-systemen begrijpen.

Het veld van AI-companions is nog in ontwikkeling en vraagt om degelijk onderzoek om mogelijke gevolgen te kunnen duiden. Beleid kan het beste gericht zijn op het bevorderen van weerbaarheid en het beschermen van de privacy, vooral voor kwetsbare groepen, zodat er ruimte blijft voor innovatie zonder dat de maatschappelijke kosten uit het oog worden verloren.

Lees het volledige artikel van AI Insider.