Sinds oktober 2020 heeft een brede groep experts en betrokkenen op verzoek van het ministerie van VWS gewerkt aan de veldnorm voor het beoordelen van de (medische) kwaliteit en effectiviteit van voorspellende Artificiële Intelligentie(AI)-gestuurde algoritmen voor gezondheid en zorg. De veldnorm wordt door en voor het veld ontwikkeld, aldus VWS.
Belangstelling voor veldnorm AI
De werkgroepen en actieteamleden hebben gemerkt dat er belangstelling is voor de norm. AI heeft dan ook de potentie om enorme impact op de kwaliteit van onze zorg en gezondheid te hebben. Het toepassen van AI in de gezondheidszorg kan zorgverleners ondersteunen met voorspelmodellen voor preventie, diagnostiek, prognostiek, screening of behandeling, inclusief het accuraat beoordelen en samenvatten van data uit bijvoorbeeld beeldvorming, laboratorium testen, of gesproken teksten.
Een medisch inhoudelijke veldnorm kan zorgverleners in alle sectoren helpen om de kwaliteit van aangeboden AI-toepassingen te beoordelen. Een norm helpt verder ontwikkelaars om kwalitatieve, betrouwbare AI te ontwerpen en realiseren. Inzicht in criteria en bijbehorende normen om kwaliteit van AI vanuit medisch perspectief te toetsen helpt bovendien vertrouwen in AI voor gezondheid te realiseren. Een medisch inhoudelijke (veld)norm moet ook ook bijdragen aan uniformiteit en het proces van markttoelating en vergoeding door verzekeraars.
De veldnorm is relevant voor:
- Toepassers (zoals zorgprofessionals, zorgaanbieders, medische en wetenschappelijke verenigingen, onderwijs, IT leveranciers en burgers);
- Ontwikkelaars (zoals verantwoordelijk ontwikkelaars, validatoren, onderzoekers, datamanagers en data leveranciers);
- Controlerende instanties (bijvoorbeeld (intern) toezichthouders, Notified bodies, privacy officers, verzekeraars, reviewers);
- Maatschappelijke partijen (denk aan patiënt(en)-(verenigingen), belangenpartij, politieke partijen).
Het actieteam begon 15 oktober 2020 op basis van de resultaten van een literatuuronderzoek uitgevoerd door het UMCU en het LUMC naar wetenschappelijke kwaliteitscriteria voor predictive AI. Naar aanleiding van het onderzoek maakte het team een overzicht van de beschikbare nationale en internationale richtlijnen en criteria voor de ontwikkeling, validatie, evaluatie en implementatie van AI in de medische sector. Dit is vastgelegd in een rapport.
Focus op voorspellende algoritmen
De focus is gelegd op voorspellende AI-algoritmen (AI prediction algorithms, ofwel AIPA’s) die onderdeel zouden kunnen worden van een medisch hulpmiddel zoals beschreven in de MDR (Medical Device Regulation). Het gaat om hulpmiddelen die zich als medisch profileren, waarbij het beoogde gebruik leidend is. In het rapport zijn verder zes fasen onderkend voor het ontwikkelen, valideren, implementeren en toepassen van AIPA’s.
Voor elke fase is vervolgens een werkgroep samengesteld. Clinici, norm experts, epidemiologen, datamanagers, ethici, statistici, beleidsmedewerkers, kwaliteitsmedewerkers, data scientists en AI-experts werkzaam bij verschillende organisaties in het zorgveld, ze hebben allemaal een bijdrage geleverd. De werkgroepen zijn digitaal bijeengekomen en hebben minimale eisen en aanbevelingen voor iedere fase opgesteld. Het resultaat: een eerste versie van de veldnorm voor medische AI.
Twee soorten reviews
De komende tijd worden er twee soorten reviews uitgevoerd: allereerst krijgen de werkgroepleden de gelegenheid om het gehele werk te beoordelen. Daarnaast hebben een veertigtal beoogde gebruikers van de veldnorm zich bereid gevonden om vanuit het gebruikersperspectief hun bevindingen te delen. Ook zullen er praktijktesten en spiegelsessies met het veld plaatsvinden. De komende periode zullen de actieteamleden zich verder buigen over de verdere strategie voor review, (door)ontwikkeling en beheer.
De actieteamleden op dit moment zijn: Jan Jaap Baalbergen (NFU), Robert Geertsma (RIVM), Klaas Gommers (Federatie Medisch Specialisten), Dennis Japink (ZN), Carl Moons (UCMU), Rozemarijn Pennings (InEen), Marlies Schijven (Amsterdam UMC), Jaap Schrieke (GGZ Nederland), Inge Steinbuch (ActiZ), Jos Schimmelpennink (Nederlandse Vereniging van Ziekenhuizen), Stefan Visscher (Federatie Medisch Specialisten) en Laurine Keulemans (Ministerie van VWS).
Werkgroepleden:
- Fase 1: Paul Agra, Amy Eikelenboom, Andre Dekker, Christian van Ginkel, Saskia Haitjema, Martine de Vries.
- Fase 2: Gabrielle Davelaar, Desy Kakjay, Evangelos Kanoulas, Kicky van Leeuwen, Joran Lokkerbol, Daniel Oberski.
- Fase 3: Huib Burger, Daan van den Donk, Vincent Stirler, Wouter Veldhuis, Bart-Jan Verhoeff.
- Fase 4: Giovanni Cina, Marcel Hilgersom, Maurits Kaptein, Floor van Leeuwen, Martijn van der Meulen, Egge van der Poel.
- Fase 5: René Drost, Sade Faneyte, Leo Hovestadt, Teus Kappen, Ewout Steyerberg, Jonas Teuwen, René Verhaart.
- Fase 6: Nynke Breimer, Bart Geerts, Anne de Hond, Lysette Meuleman, Karen Wiegant, Laure Wynants.
De werkgroepen zijn inhoudelijk begeleid door Maarten van Smeden en Ilse Kant, met ondersteuning van Roy Tomeij, Pieter Boone en Rachel Peeters. Aan de eerste versie van de veldnorm hebben naast Maarten van Smeden en Ilse Kant verder mee geschreven: Carl Moons, Lotty Hooft, Hine van Os en Niels Chavannes.
