De Inspectie Gezondheidszorg en Jeugd (IGJ) roept op tot zorgvuldigheid bij de invoering en het gebruik van generatieve AI. Veel toepassingen zijn nog maar kort op de markt en de impact op de zorg is nog (deels) onbekend. Extra waakzaamheid van zorgaanbieders is nodig volgens de inspectie. Vereniging SPOT volgt de ontwikkelingen op de voet en neemt initiatief om haar leden te informeren over het gebruik van Artificiële Intelligentie (AI).
Inzet van AI in de zorg kan een hoop werk uit handen nemen. Het samenvatten van een patiëntendossier of een chatbot waar cliënten vragen aan kunnen stellen, bieden zorgaanbieders voordelen zoals tijdsbesparing en laagdrempelige communicatie met zorgvragers. Tegelijkertijd zijn er ook risico’s bij het gebruik van AI, zoals verkeerde diagnoses. In de ledenvergadering op 10 april staan we met deskundigen (waaronder met senior onderzoeker Brent Opmeer van Vilans) stil bij de kansen en valkuilen, en bij het recent gepubliceerde AI-kompas voor de ouderenzorg.
Risico’s gebruik AI
De IGJ benadrukt dat bij het gebruik van generatieve AI dezelfde kaders van toepassing zijn als bij de invoering van elke vorm van digitale zorg. Maar daarnaast gelden er voor generatieve AI specifieke risico’s. Generatieve AI-modellen kunnen op basis van ingevoerde data zelf nieuwe informatie produceren. Dat kan ook onjuiste of onvolledige informatie zijn en leiden tot risico’s. Bijvoorbeeld op medicatiefouten of een onjuiste beoordeling van een patiënt door een arts.
Zorgaanbieders moeten beschikken over voldoende kennis over de risico’s en beperkingen van AI. De IGJ adviseert zorgaanbieders hierop alert te zijn, zowel bij de aanschaf, implementatie als gebruik van generatieve AI-toepassingen. Bijvoorbeeld door het vaststellen van het doel van de toepassing, bepalen welke data nodig zijn (en deze te valideren), controleren van resultaten en beoordelen van risico’s.
Voldoen aan de wet en regelgeving
Een AI-toepassing kan een medisch hulpmiddel zijn, bijvoorbeeld een AI-programma dat helpt bij het stellen van diagnoses of ondersteunt bij een behandeling. Het is belangrijk dat zorginstellingen zich realiseren dat deze toepassingen moeten voldoen aan de wet- en regelgeving voor medische hulpmiddelen (MDR). Bovendien wordt de komende jaren de Europese AI-verordening van toepassing, die ook eisen stelt aan de ontwikkeling en het gebruik van AI.
Toezicht
De IGJ vindt het belangrijk dat zorgaanbieders, alsook fabrikanten en leveranciers, zorgen voor goede randvoorwaarden voor veiligheid van digitale zorg, inclusief generatieve AI. In het toezicht gebruikt zij daarvoor het toetsingskader Digitale zorg en kijkt daarbij ook naar invoer en gebruik van generatieve AI.
Aanbevelingen vanuit AI-KOMPAS voor ouderenzorg
De uitdagingen in de ouderenzorg zijn immens. Vergrijzing, personeelstekorten en stijgende zorgkosten drukken zwaar op de sector. AI heeft de potentie om een grote bijdrage te leveren aan de ouderenzorg. In het AI-KOMPAS gingen de onderzoekers aan de slag met de vraag ‘Hoe kunnen we AI effectief en verantwoord inzetten om de ouderenzorg toekomstbestendig te maken’. Hieruit kwamen zeven concrete aanbevelingen:
- Een sectorbrede AI-visie ontwikkelen: Een gedeelde strategie helpt organisaties beter richting te geven aan AI-initiatieven.
- Investeren in AI-kennis en vaardigheden: Bestuurders en zorgmedewerkers hebben scholing nodig om de mogelijkheden van AI te begrijpen en toe te passen.
- Een sterke digitale basis leggen: Een goede informatiehuishouding is essentieel om AI effectief te implementeren.
- AI zorgvuldig integreren in zorgprocessen: Dit vraagt om een cultuurverandering en nauwe samenwerking tussen stakeholders.
- Kosten en baten afwegen: Een systematische evaluatie helpt de impact van AI beter te begrijpen.
- Ethische afwegingen maken: AI moet transparant en rechtvaardig worden ingezet, met waarborgen voor privacy en autonomie.
- Samenwerking en kennisdeling stimuleren: Een AI-netwerk kan versnippering tegengaan en de sector vooruit helpen.