Onderzoek naar Uber's AI-model door Nederlandse chauffeurs

Een groep Nederlandse Uber-chauffeurs heeft deze week een rechtszaak aangespannen tegen het bedrijf vanwege de ondoorzichtige werking van het AI-model dat hun werk en inkomen beïnvloedt. Deze software, die ritten toewijst en accounts kan blokkeren, roept bezorgdheid op met betrekking tot de rechten van de chauffeurs onder de Algemene Verordening Gegevensbescherming (AVG) en de Europese AI-verordening (AI Act). De chauffeurs eisen inzage in de werking van het algoritme en vragen uitleg over de signalen die het systeem gebruikt, zoals ritannuleringen en klantbeoordelingen.

De chauffeurs klagen dat zij vaak alleen een standaardbericht ontvangen bij blokkades of een afname van ritten, wat het voor hen moeilijk maakt om te begrijpen wat ze verkeerd deden of hoe zij hun prestaties kunnen verbeteren. Zij pleiten voor transparantie over de gebruikte AI-algoritmes, wat volgens hen essentieel is om inzicht te krijgen in de beslissingen die hun inkomen beïnvloeden. Zo willen zij graag weten welke gegevens er aan deze beslissingen ten grondslag liggen, zodat zij gericht kunnen bezwaar maken en sneller terug aan het werk kunnen.

De problemen die chauffeurs ondervinden, omvatten onverwachte blokkades en onduidelijke "schaduwbeperkingen", die hun inkomen aanzienlijk beïnvloeden. Deze onzekerheden vergroten de druk op de chauffeurs, vooral tijdens drukke uren. Met algoritmisch management kan een klein dataprobleem scherpere gevolgen hebben, zoals verkeerde GPS-metingen of ongegronde fraudesignalen. De chauffeurs vinden dat duidelijke meldingen van ingrepen van het systeem noodzakelijk zijn, zodat zij kunnen begrijpen welke regels in werking zijn getreden en op basis van welke gegevens.

Uber benadrukt dat de gebruikte algoritmen essentieel zijn voor de veiligheid van het platform en het beschermen van zowel reizigers als chauffeurs. Het bedrijf beweert ook dat er mechanismen bestaan om beslissingen aan te vechten, maar de rechtszaak zal moeten uitwijzen of deze maatregelen voldoen aan de eisen van transparantie en menselijk toezicht, zoals voorgeschreven door de opkomende AI-verordening. De uitkomst van deze rechtszaak kan gevolgen hebben voor de hele platformeconomie, mogelijk leidend tot aanpassing van datamodellen en processen binnen de sector.

Lees het volledige artikel van AI Insider.