Gênante AI-blunders bij Bol.com en webshops

Grote webwinkels zoals Bol.com ondervinden problemen door kunstmatige intelligentie (AI) in hun productteksten en klantenservice. Deze blunders manifesteren zich in de vorm van kromme vertalingen en incorrecte productinformatie, en worden steeds zichtbaarder in Nederland en andere Europese landen. Retailers zetten AI technologieën in om hun efficiëntie te verhogen en kosten te besparen, maar de resultaten zijn niet altijd positief. Dit roept vragen op over de naleving van de Europese AI-verordening (AI Act) en de Algemene Verordening Gegevensbescherming (AVG), die beide eisen stellen aan transparantie en zorgvuldigheid.

Door generatieve AI, zoals ChatGPT van OpenAI en Google's Gemini, worden teksten automatisch gegenereerd, wat leidt tot tal van fouten. Productbeschrijvingen kunnen onjuiste maten, beloftes of zelfs verkeerde vertalingen bevatten. Het gebruik van vertaalsoftware zoals DeepL en Google Translate kan ook inadequaat zijn, aangezien deze programma's soms context missen, wat resulteert in misleidende productclaims. Fouten in AI-communicatie kunnen consumenten ernstig misleiden bij het maken van aankoopbeslissingen, waardoor het risico op onvrede en retourzendingen toeneemt.

Naargelang de AI-verordening fasegewijs in werking treedt, zullen webwinkels hun verantwoordelijkheden moeten versterken. Dit houdt in dat AI-geproduceerde inhoud herkenbaar moet zijn en dat risico’s vooraf moeten worden geïdentificeerd. Bovendien moeten bedrijven transparante richtlijnen hanteren en zorgen voor voldoende menselijke controle over AI-ingrepen. De Autoriteit Persoonsgegevens en de Autoriteit Consument & Markt krijgen een belangrijke rol in het toezicht op privacy en consumentenbescherming. Bij nalevingsproblemen kunnen sancties volgen, wat een extra drijfveer vormt voor webwinkels om de kwaliteit van hun AI-systemen te verbeteren.

Winkels zijn reeds bezig om strengere kwaliteitscontroles in te voeren. Ze beloven een "mens-in-de-lus" inzet voor gevoelige content, waarbij redacties de productinformatie controleren en onterecht claims blokkeren. Daarnaast zijn er technologische maatregelen ingevoerd die helpen om twijfelachtige teksten te markeren. Ook worden strengere contractvoorwaarden aan AI-leveranciers verbonden. Consumenten zijn eveneens betrokken en wordt geadviseerd om altijd productinformatie op meerdere kanalen te controleren en voorzichtig om te gaan met persoonlijke gegevens bij het gebruik van chatbots.

De gecombineerde effectiviteit van de Europese AI-verordening, de AVG en bestaande consumentenwetgeving zet een duidelijke norm voor webwinkels zoals Bol.com. Dit benadrukt de noodzaak voor heldere labeling, betere datakwaliteit en audits. Op deze manier kunnen AI-blunders sneller worden opgespoord en hersteld, wat het vertrouwen van consumenten in digitale handel ten goede zal komen.

Lees het volledige artikel van AI Insider.