68-jarige verliest spaargeld aan AI (OpenAI) in Thailand

Een 68-jarige man heeft in Thailand al zijn spaargeld verloren aan een door kunstmatige intelligentie gemaakte virtuele vriendin. Het gevolg was dat hij op straat belandde. Een Nederlander die de situatie opmerkte, hielp de man met eerste ondersteuning, waarna verdere opvang werd geregeld. Dit voorval onderstreept de risico's die verbonden zijn aan relatiebots en betaalde functies die gebruikers kunnen meeslepen in een financieel gevaarlijke situatie.

De man maakte gebruik van een chatapp waarin hij regelmatig betaalde voor extra contact met zijn virtuele partner. Deze extra functies maakten de interactie persoonlijker en intiemer, wat leidde tot hoge uitgaven die onbetaalbaar werden. De specifieke app is niet bekendgemaakt, maar de inzet van een AI-gestuurde relatiebot is duidelijk. Zulke systemen zijn in staat om snel vertrouwen te wekken, wat gebruikers kan aanzetten tot overmatige uitgaven.

Relatiebots, die werken met geavanceerde taalmodellen, bootsen menselijke interactie na door aandacht en begrip te simuleren. Voorbeelden van zulke apps zijn Replika en Character.AI, die in Nederland te downloaden zijn. Ze zijn vaak gebaseerd op een freemium-model, waarbij basisfuncties gratis zijn, maar extra opties betaald moeten worden. Dit betalingsmodel kan ertoe leiden dat vooral oudere gebruikers, die mogelijk minder ervaring hebben met in-app aankopen, kwetsbaar zijn voor onverwachte hoge kosten.

De Europese AI-verordening stelt steeds strengere eisen aan de transparantie van dergelijke systemen. Gebruikers moeten zich ervan bewust zijn dat ze communiceren met een AI-systeem, en ook de AVG beschermt de gegevens van EU-burgers. Dit leidt tot strikte regels rondom dataminimalisatie en gegevensbeveiliging. Desondanks blijft er behoefte aan extra bescherming, vooral voor kwetsbare gebruikers. Hulp is beschikbaar voor wie merkt dat een naaste in financiële problemen komt door dergelijke apps, en consumentenorganisaties bieden ondersteuning bij misleiding of privacykwesties.

Het incident illustreert de noodzaak van meer toezicht op emotionele AI-systemen en de bescherming van gebruikers voor wie dergelijke technologieën riskant kunnen zijn. Hoewel innovatie in de AI-sector essentieel is, moeten er duidelijke grenzen worden gesteld om onnodige risico's te voorkomen.