Amazon en Walmart gebruiken AI voor herkomstclaims

Amazon en Walmart hebben kunstmatige intelligentie (AI) ingezet om productpagina’s op hun platforms te controleren op misleidende herkomstclaims, met name de foutieve ‘Made in USA’-labels. De algoritmen analyseren productteksten, verkopersdata en afbeeldingen om inconsistenties te identificeren. Hoewel het systeem een ‘Made in USA’-claim kan herkennen en markeren voor verder onderzoek, ontbreekt een automatische handhaving. Dit roept vragen op over de bescherming van consumenten en de implicaties voor regelgeving, met name in het licht van de Europese AI-act.

De AI-systemen van deze grote platforms zijn ontworpen om vertrouwdheid te wekken bij klanten door moderatie van de content die door verkopers wordt gepost. Echter, wanneer onjuiste claims worden herkend, blijven deze vaak zichtbaar totdat een menselijke moderator of de verkoper zelf de situatie aanpakt. Dit kan leiden tot langdurige misleiding van consumenten, wat het vertrouwen in de marktplaatsen kan ondermijnen, vooral gezien het complexiteit van de regelgeving die per productcategorie en land kan verschillen.

De gevolgen van foutieve herkomstclaims zijn verstrekkend, niet alleen voor consumenten die op de kwaliteit van producten vertrouwen, maar ook voor merken die zich aan de regelgeving houden. Zij kunnen oneerlijke concurrentie ervaren van concurrenten die misleidende claims hanteren. Bovendien brengt dit juridische risico’s met zich mee, met mogelijke sancties van toezichthouders in de VS en Europa. Dit wijst ook op de noodzaak voor platformen om hun processen aan te passen aan nieuwe wetgeving, zoals de Digital Services Act en de Europese AI-verordening, waardoor ze verplicht zijn om misleidende informatie actief te bestrijden.

Er is nu een dringende behoefte aan transparantie en effectievere meldmechanismen binnen deze platforms. Huidige meldopties schieten vaak tekort, wat leidt tot frustratie onder gebruikers. Bovendien kan de afwezigheid van terugkoppeling op meldingen de bereidheid van klanten om actie te ondernemen verder verminderen. Verbeteringen in de efficiëntie van herkomstcontroles en het documenteren van besluitvorming zijn cruciaal. Het versterken van de regelgeving en de governance voor deze AI-systemen zal niet alleen de betrouwbaarheid verhogen, maar ook het vertrouwen van consumenten en verkopers in het systeem herstellen. Het is essentieel dat Amazon en Walmart hun detectie- en actieprocessen koppelen om onjuiste claims sneller aan te pakken en zo de integriteit van hun platforms te waarborgen.

Lees het volledige artikel van AI Insider.