AI heeft veel potentie om de zorg te verbeteren. Zo kan kunstmatige intelligentie ingezet worden om klinische beslissingen te ondersteunen of de zorgmedewerker te ontlasten door te helpen bij de administratie. Het gebrek aan richtlijnen voor ontwikkeling of toepassing van medische AI beperkt het gebruik ervan echter. Met de komst van nieuwe wet- en regelgeving en veel (in)formele richtlijnen lijkt een nieuw tijdperk aangebroken voor de medische AI-regulering. Een groep medische onderzoekers heeft nu een overzicht en samenvatting gemaakt van al gepubliceerde richtlijnen.
Dankzij een toename van richtlijnen en regels komt de AI-ontwikkeling voor de medische sector op gang, aldus medeauteur van de scoping review Anne de Hond. Maar hoe banen zorgbeslissers en medische AI-ontwikkelaars zich een pad door deze nieuwe wet- en regelgeving? Waar moeten zij op letten bij het aankopen van een AI-product? Er is een stijgende vraag naar concrete handvatten voor de ontwikkeling en implementatie van AI voor de klinische praktijk. In het recent verschenen artikel ‘Guidelines and quality criteria for artificial intelligence-based prediction models in healthcare: a scoping review’ staat daarom een overzicht en samenvatting van al gepubliceerde richtlijnen.
Naslagwerk richtlijnen AI
De scoping review is bedoeld als naslagwerk voor iedereen die betrokken is bij het ontwikkelen, evalueren en implementeren van AI. Dit kan een ontwikkelaar zijn van AI-gebaseerde toepassingen, of een clinicus die een product wil inkopen en de kwaliteit wil toetsen. Voor de scoping review hebben de betrokken onderzoekers de belangrijkste richtlijnen en kwaliteitsnormen uit de wetenschap, de industrie en het openbaar bestuur op een rij gezet.
De richtlijnen zijn samengevat aan de hand van de AI-ontwikkelcyclus, wat het gebruik in de praktijk bevordert. Deze cyclus bestaat uit zes fases: data preparatie, ontwikkeling, validatie, softwareontwikkeling, impact assessment, en implementatie in de dagelijkse medische praktijk.
Komen tot werkend AI-model
In de eerste drie fases besteden de onderzoekers aandacht aan de stappen die nodig zijn om tot een werkend AI-model te komen. Thema’s hierbij zijn onder meer: hoe representatief is je data en hoe moet een AI-model extern gevalideerd worden.
De latere drie fases betreffen het naar de kliniek brengen van een AI-toepassing. Hier wordt bijvoorbeeld stilgestaan bij het onderzoeken en verfijnen van de mens-machine interactie en het monitoren van een AI-toepassing in de klinische praktijk. Ook worden er overkoepelende thema’s geïdentificeerd die in meerdere fases aan bod komen.
Een voorbeeld van zo’n thema is ‘AI-bias’. Een AI is biased als het een bepaalde subgroep onterecht benadeelt zonder dat hier een medische verantwoording voor is. AI-bias is een belangrijk onderwerp tijdens data preparatie (representatie van kwetsbare groepen in de data), model evaluatie (evaluatie van AI-voorspellingen in kwetsbare groepen), en het monitoren van de AI in de klinische praktijk.
Onderwerpen onderbelicht
De scoping review toont dat een aantal onderwerpen onderbelicht zijn in de literatuur. Zo zijn er weinig tot geen handvatten voor het combineren van verschillende data modaliteiten voor AI-ontwikkeling (zoals een röntgenfoto, een labuitslag, en een huisartsenbrief). Ook is nog te weinig bekend over de gevolgen van en het omgaan met dataset shift (een verandering in de data over de tijd door bijvoorbeeld een verandering in een klinisch proces). in de komende jaren zullen steeds meer AI-toepassingen in de kliniek geïmplementeerd worden. Deze praktijkervaring kan helpen invulling te geven aan deze lacunes.
Om het gebruik van de scoping review te bevorderen, is er vanaf het begin van het project een nauwe samenwerking opgezet met de Leidraad kwaliteit AI in de zorg. De bevindingen van de scoping review zijn verwerkt in deze leidraad zodat deze snel hun doorgang vinden naar de klinische praktijk. AI-ontwikkelaars, onderzoekers en enthousiastelingen worden aangeraden deze leidraad te raadplegen en de scoping review als naslagwerk te gebruiken.
