AI-systemen worden al uitgebreid ontwikkeld in de medische sector. Denk aan het voorspellen van de ligduur of diagnoses van patiënten, het transcriberen van medische consulten, betere communicatie tussen arts en patiënt en AI-toepassingen in onderzoek voor medicatie en genetica. Ook kunnen met behulp van AI medische dossiers snel worden gescand en geanalyseerd om belangrijke informatie, zoals medicijngeschiedenis en allergieën te identificeren. Dit alles stelt de zorgverleners in staat om efficiënter te werken en zo meer tijd te hebben voor persoonlijke zorg. Toch, zo zeggen de experts van de NEN-werkgroep AI in de Zorg & medische hulpmiddelen, moet de echte grote verandering nog komen.
Leon Doorn is oprichter van MedQAIR en voorzitter van de NEN-werkgroep AI in de Zorg & medische hulpmiddelen. Hij is acht jaar geleden begonnen bij een onderneming waar kunstmatige intelligentie voor de zorg werd ontwikkeld, om onder andere afwijkingen op long CT-scans te detecteren. Dergelijke producten worden als medisch hulpmiddel gereguleerd door de Wet Medische Hulpmiddelen ‘MDR’ (Medical Device Regulation). Voldoet een product aan de MDR, dan heeft de fabrikant voldaan aan een reeks wettelijke eisen en standaarden inzake kwaliteitssystemen en technische documentatie. Voorbeelden zijn de implementatie van een kwaliteitssysteem, het uitvoeren van een risicoanalyse, en het valideren van software na uitgebreide beschrijvingen en testen. Maar bij AI is er meer nodig.
“De techniek van AI in medische hulpmiddelen is relatief nieuw,” vertelt Doorn. “Sinds 2015 zijn de eerste ‘deep learning’-algoritmen op de markt gekomen die een hogere nauwkeurigheid bij onder andere beelddiagnostiek bieden, zoals het analyseren van CT-scans, MRI-scans en röntgenfoto’s. Tegenwoordig gaan de ontwikkelingen razendsnel en zie je dat er ook andere AI-toepassingen dan beeldherkenning opkomen in de medische sector. Voorbeelden zijn ondersteunende systemen bij het analyseren van ECG- en EEG-input en output, algoritmen die op basis van gegevens in het Elektronisch Patiëntendossier analyses uitvoeren en de opmars van generatieve AI die mogelijkheden biedt voor het gecombineerd verwerken van verschillende data, zoals beeld en tekst.”
Risico’s
Deze ontwikkelingen brengen risico’s met zich mee die beheerst moeten worden. Daarom verscheen in april 2021 een eerste voorstel voor AI-wetgeving, gepubliceerd door de Europese Commissie. De AI & medisch hulpmiddelen werkgroep bij NEN heeft hierover een openbaar consultatiedocument ingediend. De Europese AI-wetgeving is inmiddels gebundeld tot in de AI Act, die in augustus 2024 van kracht werd. Fabrikanten en gebruikers van medisch hulpmiddelen in Europa moeten binnen drie jaar aan de eisen van de AI Act te voldoen.
Tegelijkertijd heeft de Europese Commissie het Europese Comité voor Standaardisatie (CEN) en het Europese Comité voor Elektrotechnische Standaardisatie (CENELEC) de opdracht gegeven om standaarden te identificeren en op te stellen die invulling gaan geven aan de eisen zoals de AI ACT die stelt. Doorn legt uit dat deze eisen deels overeenkomen met de bestaande MDR-wetgeving: “Je ziet dat de AI Act en MDR beiden eisen stellen aan het risicomanagement ten aanzien van veiligheid. Daar bovenop legt de AI Act eisen aangaande risico’s bij het gebruik van data en met betrekking tot fundamentele rechten zoals het recht op gelijke behandeling. Daar heeft onder andere ISO al standaarden voor gemaakt. CEN/CENELEC kijkt nu of die standaarden kunnen worden overgenomen voor de AI-wetgeving. Dat is waar we nu als werkgroep AI in de Zorg & medische hulpmiddelen staan. Een boeiende en dynamische omgeving waarin niet alleen door het ontwikkelen van nieuwe standaarden, maar zeker ook door de nieuwe toepassingen van AI die steeds worden uitgevonden, ontzettend veel gaande is.”
Uitwisselen elektronische gegevens Met alle AI-toepassingen op het gebied van beeldherkenning en generatieve AI zouden we bijna vergeten dat ook voor het uitwisselen van elektronische gegevens in de zorg in toenemende mate AI toepassingen worden ontwikkeld. Zo worden teksten van zorgverleners met behulp van AI omgezet in gestructureerde gegevens. Hierdoor kunnen patiëntgegevens beter worden hergebruikt, bijvoorbeeld voor in andere zorginstellingen of voor wetenschappelijk onderzoek.
De wetgeving en het ontwikkelen van normen gaan hierin mee. Tot 2017 werd er in wetgeving weinig aandacht gegeven aan softwareontwikkeling. Dit veranderde met de publicatie van de MDR, die meer software aanmerkt als medisch hulpmiddel die moet voldoen aan alle eisen van de MDR. Deze eisen zijn verder aangescherpt in de algemene AI-wetgeving, die specifieke eisen stelt aan AI-producten op het vlak van de representativiteit van de gebruikte gegevens, en zoals eerder benoemd, de fundamentele rechten.
Ook de Algemene Verordening Gegevensbescherming (AVG) voor de zorgsector (op Europees niveau de General Data Protection Regulation) laat fabrikanten nadenken over hoe je de informatie verwerkt, of je de juiste technische en organisatorische maatregelen implementeert om dat goed te verwerken. Wereldwijd is er ook de ISO/IEC27001-standaard voor informatiebeveiliging en specifiek in Nederland de NEN 7510, NEN 7512 en NEN 7513 om zorginformatie te beveiligen.
Bedreigingen
Met alle regels en voorwaarden op nationaal en internationaal niveau is het duidelijk dat de bescherming van gegevens wordt gewaarborgd, maar het is de vraag of binnen het woud van regels voldoende waarborg bestaat voor het ontwikkelen van nieuwe AI-producten, stelt Joline van Sorge. Zij is werkzaam bij het Expertisecentrum Zorgalgoritmen, komt zelf uit de praktijk van het werken in een ziekenhuis en is lid van de werkgroep AI in de zorg & medische hulpmiddelen.
De grote gamechanger moet nog komen
“Het Expertisecentrum is opgericht door de Samenwerkende Algemene Ziekenhuizen (SAZ) samen met Bart-Jan Verhoeff (internist-nefroloog): echt van en voor de zorg. Voor het trainen van AI-modellen is het afhankelijk welke techniek je gebruikt, het hoeft niet altijd zo te zijn dat de uitwisseling nodig is voor het ontwikkelen van AI. Ik denk wel dat - omdat de medische sector al te maken heeft met de MDR, ISO-standaarden, NEN-normen, WEGIZ (Wet Elektronische Gegevensuitwisseling in de Zorg) en de AVG - het goed is dat de werkgroep en alle relevante partijen erop aandringen dat er niet aan allerlei voorwaarden dubbel hoeft te worden voldaan. De complexiteit is hoog, maar de wet- en regelgeving moet homogeen zijn en niet los naast elkaar staan.”
Gamechanger
Hoewel er al AI-toepassingen in de zorg ontwikkeld worden en het een tour de force is om met de ontwikkeling van nieuwe AI-producten binnen de wet- en regelgeving te blijven (die ook continu in ontwikkeling is), menen experts dat we pas aan de vooravond staan van de echt grote verandering. Doorn en Van Sorge zijn het unaniem eens: “De grote gamechanger moet nog komen. Er wordt veel ontwikkeld, maar slechts een klein deel haalt de praktijk en opschaling van toepassingen blijft achter.”
Doorn geeft aan dat bijvoorbeeld radiologische AI-toepassingen in de praktijk nog ondersteunend zijn. Dit betekent dat de radioloog naast zijn gewone werk naar de resultaten van AI moet kijken. Dit kost nu nog extra tijd en de winst daarvan is niet altijd even duidelijk. “Op het moment dat AI echt repetitieve taken overneemt, gaat het echt tijd en werk schelen en kunnen we ook veel betere zorg leveren.”
Van Sorge geeft aan dat het een verandering vraagt van zorgverleners om AI zinvol in het werk toe te passen en te integreren. Vanaf februari 2025 ligt er vanuit de AI-wetgeving ook een verantwoordelijkheid bij de zorgorganisaties om te zorgen dat medewerkers voldoende kennis hebben van AI.
Zelf meedenken?
Dennis Winkel noemt zichzelf nadrukkelijk geen AI-expert, maar is als NEN-consultant zeer betrokken bij de werkgroep AI in de zorg & medische hulpmiddelen. “Onze werkgroep heeft de ambitie om onze leden de gelegenheid te geven met elkaar over relevante ontwikkelingen van gedachten te wisselen en kennis en ervaringen te delen. Ook willen we het bewustzijn (onder gebruikers en producenten) van relevante wet- en regelgeving, de toepassing van deze regels en AI-ontwikkelingen hieromtrent en rondom medische hulpmiddelen bevorderen. Verder geven we gevraagd en ongevraagd advies aan de aanverwante normcommissie en beleidscommissies op deze terreinen.”
De werkgroep is geen onderdeel van het EGIZ-project omdat er geen normen worden ontwikkeld voor AI bij het elektronisch uitwisselen van gegevens. Er zijn natuurlijk wel normen voor AI en aan die normen moet ook in de zorg toegepaste AI voldoen. De werkgroep inventariseert hoe de diverse vormen van AI het beste kunnen worden toegepast in het zorgveld en hoe daar de markt het beste over geïnformeerd kan worden.
“Verder kijken we welke standaarden er in ontwikkeling zijn en letten daarbij op de aanstaande European Health Data Space-wet (EHDS) en de normen die NEN voor het EGIZ-project maakt ten behoeve van de Nederlandse Wet voor Elektronische Gegevensuitwisseling in de Zorg (WEGIZ). We komen graag in contact met mensen die het ook leuk en zinvol vinden om betrokken te zijn bij de stand van zaken van AI in de zorg en medische hulpmiddelen. Belangstellenden kunnen meer informatie vinden via de QR-code of mij rechtstreeks mailen op dennis.winkel@nen.nl.”
CV
Joline van Sorge is Quality Manager bij Expertisecentrum Zorgalgoritmen en lid van NEN-werkgroep AI in de Zorg & medische hulpmiddelen.
Leon Doorn is oprichter MedQAIR en voorzitter van NEN-werkgroep AI in de Zorg & medische hulpmiddelen.
Dennis Winkel is consultant Zorg, Consument en Maatschappij bij NEN.
