Kritische inzet van AI in de zorg vereist regels

In de Nederlandse zorgsector groeit het gebruik van generatieve AI, waaronder systemen zoals ChatGPT, Google Gemini en Microsoft Copilot. Dit biedt kansen voor tijdsbesparing bij administratieve taken, maar roept ook zorgen op over de betrouwbaarheid van AI-adviezen. Experts en toezichthouders pleiten voor een kritische benadering en de ontwikkeling van heldere richtlijnen nu de Europese AI-verordening en de Algemene verordening gegevensbescherming (AVG) strengere eisen aan deze systemen stellen.

AI kan zorgverleners ondersteunen met administratieve taken en triage via chatbots, maar het is belangrijk om de risico's van feilheid en 'hallucinaties' binnen AI-systemen te erkennen. Fouten in de klinische omgeving kunnen namelijk ernstige gevolgen hebben voor de patiënt. Daarom is menselijke controle essentieel bij elk gebruik van AI voor medische doeleinden, en moet de eindverantwoordelijkheid duidelijk zijn. Mechanismen zoals secundaire beoordelingen en controlelijsten kunnen helpen om de kwaliteit van AI-adviezen te waarborgen.

Met de opkomst van de Europese AI-verordening worden er kaders aangescherpt. AI-systemen voor medische besluitvorming vallen doorgaans in de hoogrisicoklasse, wat vraagt om strikte regels voor risicobeheer en menselijk toezicht. Voor zorginstellingen betekent dit onder andere de verplichting om een register van gebruikte AI-toepassingen bij te houden en risicoanalyses te maken. Daarnaast moeten aanbieders van generatieve AI-modellen gedetailleerde documentatie en veiligheidsmaatregelen beschikbaar stellen, wat verantwoordelijkheden voor ziekenhuizen en overheidsinstanties vergroot.

Bij het gebruik van AI in de zorg moet ook rekening worden gehouden met de AVG, die bepalend is voor de omgang met gevoelige patiëntdata. Dit onderstreept het belang van dataminimalisatie en strikte waarborgen bij gegevensoverdracht. Voor nieuwe AI-toepassingen kan een gegevensbeschermingseffectbeoordeling (DPIA) vereist zijn om risico’s en noodprocedures in kaart te brengen. Het gebruik van AI moet altijd zorgvuldig worden overwogen en er moeten procedures worden vastgesteld voor incidenten en feedback aan leveranciers. Het doel moet zijn om de balans tussen efficiëntie en kwaliteitszorg te waarborgen, zodat AI op een veilige manier geïntegreerd kan worden in de dagelijkse praktijk.

Lees het volledige artikel van AI Insider.