Er is een internationale richtlijn die de toepassing van Artificial Intelligence (AI) in de zorg “veiliger en beter” moet maken. AI wordt in de zorg al jaren gebruikt, maar toch blijkt uit de AI Monitor 2024 van het CBS dat de gezondheidszorg relatief gezien achter blijft bij de adoptie van de technologie.
Een internationale groep experts heeft de richtlijn en een bijbehorende checklist ontwikkeld onder leiding van het UMC Utrecht. “De richtlijn kan worden gebruikt voor het beoordelen van de betrouwbaarheid, eerlijkheid, duurzaamheid en toepasbaarheid van algoritmes in de zorg”, legt het academische ziekenhuis uit. “Het is een set vragen die je kunt doorlopen om erachter te komen of een algoritme een hoog, een laag of geen risico heeft op bias”, voegt hoofdonderzoeker Carl Moons eraan toe.
Risico op bias
Een gevaar bij het gebruik van AI is onder andere dat er verkeerde data wordt ingevoerd om de modellen te trainen en te testen. “Dat kan leiden tot algoritmes die bepaalde groepen bevoordelen of benadelen, of die gewoonweg niet toegepast zouden moeten worden”, vertelt Moons in een interview met Zorgvisie. “We zijn samen met de Hogeschool Utrecht bezig om het gebruik van de richtlijn te automatiseren, zodat je de checklist elektronisch kunt invullen in plaats van kruisjes op papier te zetten.”
AI gebruik in de gezondheidszorg
Kunstmatige intelligentie is nog steeds in opkomst in Nederlandse bedrijven en organisaties, zo blijkt uit de cijfers van het CBS. Alleen in de zorgorganisaties zet nog geen kwart AI in (18 procent), blijkt uit de AI Monitor 2024 van het CBS. In vergelijking zet meer dan de helft van de ict-ondernemingen (58 procent) AI in. Er zijn veel toepassingen denkbaar en er is in de zorg veel aandacht voor onder meer medische beeldanalyse, het voorspellen van ziekteverloop en no-shows en automatisering van administratieve taken. Toch zijn er belemmeringen, zoals strikte regelgeving, zorgen over privacy en de behoefte aan menselijke controle.
Lees ook: Het gebruik van AI in de zorg: ‘Extra waakzaakheid is nodig’
Vereniging SPOT en AI
Inzet van AI in de zorg kan een hoop werk uit handen nemen. Het samenvatten van een patiëntendossier of een chatbot waar cliënten vragen aan kunnen stellen, bieden zorgaanbieders voordelen zoals tijdsbesparing en laagdrempelige communicatie met zorgvragers. Tegelijkertijd zijn er ook risico’s bij het gebruik van AI, zoals verkeerde diagnoses. Vereniging SPOT volgt de ontwikkelingen op de voet en neemt initiatief om haar leden te informeren over het gebruik van Artificiële Intelligentie (AI). In de ledenvergadering op 10 april staan we met deskundigen (waaronder met senior onderzoeker Brent Opmeer van Vilans) stil bij de kansen en valkuilen, en bij het recent gepubliceerde AI-kompas voor de ouderenzorg.