Zorgprofessionals verantwoordelijk bij AI-fouten

Uit recent onderzoek onder Nederlandse zorgprofessionals blijkt dat zij zich persoonlijk verantwoordelijk voelen wanneer er fouten optreden in de inzet van AI-systemen binnen hun werk. Dit heeft grote gevolgen voor de aansprakelijkheidsdiscussie, vooral nu de Europese AI-verordening (AI Act) en de AVG strengere eisen stellen aan de inzet van AI in de zorg. Het is cruciaal dat instellingen en leveranciers duidelijke afspraken maken over taken, controlemechanismen en financiële verantwoordelijkheden bij eventuele schade.

In de zorg ondersteunen AI-algoritmes artsen en verpleegkundigen bij diverse taken zoals triage, beeldanalyse en medicatiebewaking. De systemen doen voorstellen op basis van data-analyse, maar de beslissingsbevoegdheid blijft bij de zorgprofessional. Dit roept vragen op over de verantwoordelijkheid en controle. Veel zorgmedewerkers benadrukken de noodzaak van begrijpelijke uitleg van AI-adviezen, om te voorkomen dat zij blindelings de technologie volgen, wat kan leiden tot 'automation bias'.

De aansprakelijkheid bij AI-fouten is complex, omdat deze vaak afhankelijk is van de samenwerking tussen zorgverleners, instellingen en leveranciers. De invoering van de AI-verordening legt strenge eisen op aan de documentatie en governance van AI-systemen. Dit houdt in dat zorginstellingen verantwoordelijk zijn voor het trainen van personeel en het monitoren van AI-gebruik, terwijl leveranciers moeten zorgen voor risicobeheer en logging. De combinatie van de MDR, AI-verordening en AVG zet de lat hoger voor de implementatie van AI in de zorg, wat leidt tot meer duidelijkheid over de verantwoordelijkheden.

Om de implementatie van AI-effectief en veilig te maken, dienen zorginstellingen te investeren in een goed governance-model. Dit omvat het aanwijzen van klinisch leiders, het uitvoeren van lokale validatie van AI-systemen en het opstellen van duidelijke acceptatiecriteria. Scholing over de mogelijkheden en risico’s van algoritmen is noodzakelijk, evenals heldere afspraken in contracten met AI-leveranciers. Deze stappen zijn essentieel om de verantwoordelijkheden van zorgprofessionals te waarborgen en hen in staat te stellen geïnformeerde beslissingen te nemen bij het gebruik van AI in hun praktijk.

Lees het volledige artikel van AI Insider.