RVO waarschuwt: zorgorganisaties hebben betrouwbare AI nodig

De Rijksdienst voor Ondernemend Nederland (RVO) heeft recentelijk de noodzaak van betrouwbare kunstmatige intelligentie (AI) binnen zorgorganisaties benadrukt. Deze noodzaak wordt steeds crucialer nu de Europese AI-verordening in werking treedt en algoritmen steeds vaker worden toegepast in ziekenhuizen en thuiszorg. De focus ligt op het waarborgen van de kwaliteit en veiligheid van AI-systemen, waarbij betrouwbare data, goed toezicht, privacybescherming en een slimme inkoop essentieel zijn.

Betrouwbaarheid is niet langer een luxe, maar een basisvoorwaarde in de zorgsector. AI-systemen moeten voldoen aan strikte eisen om te functioneren binnen vooraf gedefinieerde grenzen en hun beloften waar te maken. Het gebrek aan betrouwbaarheid kan leiden tot fouten, ongelijkheid en verlies van vertrouwen bij zorgprofessionals en patiënten. Daarnaast is het cruciaal dat zorgprofessionals de logica achter de adviezen van een algoritme kunnen begrijpen, en dat robuuste systemen bestaan die ook functioneren onder veranderende omstandigheden.

Veel toepassingen van AI in de zorg vallen onder de categorie "hoog risico" volgens de Europese regelgeving. Hierbij gaat het onder andere om diagnostische systemen die fundamentele impact hebben op zorgbeslissingen, waarvoor strikte eisen zoals risicomanagement en documentatie gelden. Organisaties dienen er bij de inkoop en implementatie van deze systemen op toe te zien dat alle verantwoordelijkheden helder zijn geformuleerd in contracten, inclusief de termen van updates en nazorg.

Om AI effectief en verantwoord te gebruiken is daarentegen ook de kwaliteit van data cruciaal. Dataminimalisatie, privacy by design en duidelijke documentatie vormen belangrijke elementen in dit proces. RVO biedt ondersteuning aan zorgorganisaties en MKB’s die in AI willen investeren, met verschillende subsidieregelingen. Richtlijnen van nationale organisaties dragen bij aan een veilige implementatie van AI in de zorg, terwijl Europese initiatieven zoals de European Health Data Space en testfaciliteiten er op gericht zijn om het gebruik van zorg-AI te vergemakkelijken. Voor bestuurders is het cruciaal om strategieën en budgetten te bepalen om de betrouwbaarheid van AI-implementatie te waarborgen, zodat innovatie in de zorg hand in hand gaat met patiëntveiligheid.

Lees het volledige artikel van AI Insider.