AI-systemen worden al uitgebreid ontwikkeld in de medische sector. Denk aan het voorspellen van de ligduur of diagnoses van patiënten, het transcriberen van medische consulten, betere communicatie tussen arts en patiënt en AI-toepassingen in onderzoek voor medicatie en genetica. Dit alles stelt de zorgverleners in staat om efficiënter te werken en zo meer tijd te hebben voor persoonlijke zorg. Toch, zo zeggen de experts van de NEN-werkgroep AI in de Zorg & medische hulpmiddelen, moet de echte grote verandering nog komen.
Leon Doorn is oprichter van MedQAIR en voorzitter van de NEN-werkgroep AI in de Zorg & medische hulpmiddelen. Hij is acht jaar geleden begonnen bij een onderneming waar kunstmatige intelligentie voor in de zorg werd ontwikkeld, om onder andere afwijkingen op long CT-scans te detecteren. Dergelijke producten worden als medisch hulpmiddel gereguleerd door de Wet Medische Hulpmiddelen ‘MDR’ (Medical Device Regulation).
Voldoet een product aan de MDR, dan heeft de fabrikant voldaan aan een reeks wettelijke eisen en standaarden inzake kwaliteitssystemen en technische documentatie. Voorbeelden zijn de implementatie van een kwaliteitssysteem, het uitvoeren van een risicoanalyse, en het valideren van software na uitgebreide beschrijvingen en testen. Maar bij AI is er meer nodig.
“De techniek van AI in medische hulpmiddelen is relatief nieuw,” vertelt Doorn. “Tegenwoordig gaan de ontwikkelingen razendsnel en zie je dat er ook andere AI-toepassingen dan beeldherkenning opkomen in de medische sector. Voorbeelden zijn ondersteunende systemen bij het analyseren van ECG- en EEG-input en output, algoritmen die op basis van gegevens in het Elektronisch Patiëntendossier analyses uitvoeren en de opmars van generatieve AI die mogelijkheden biedt voor het gecombineerd verwerken van verschillende data, zoals beeld en tekst.”
Risico’s beheersen
Deze ontwikkelingen brengen risico’s met zich mee die beheerst moeten worden. Daarom verscheen in april 2021 een eerste voorstel voor AI-wetgeving, gepubliceerd door de Europese Commissie. De AI & medisch hulpmiddelen werkgroep bij NEN heeft hierover een openbaar consultatiedocument ingediend. De Europese AI-wetgeving is inmiddels gebundeld in de AI Act, die in augustus 2024 van kracht werd. Fabrikanten en gebruikers van medisch hulpmiddelen in Europa moeten binnen drie jaar aan de eisen van de AI Act te voldoen.
Tegelijkertijd heeft de Europese Commissie het Europese Comité voor Standaardisatie (CEN) en het Europese Comité voor Elektrotechnische Standaardisatie (CENELEC) de opdracht gegeven om standaarden te identificeren en op te stellen die invulling gaan geven aan de eisen zoals de AI ACT die stelt.
Doorn legt uit dat deze eisen deels overeenkomen met de bestaande MDR-wetgeving: “Je ziet dat de AI Act en MDR beiden eisen stellen aan het risicomanagement ten aanzien van veiligheid. Daar bovenop legt de AI Act eisen aangaande risico’s bij het gebruik van data en met betrekking tot fundamentele rechten zoals het recht op gelijke behandeling. Daar heeft onder andere ISO al standaarden voor gemaakt. CEN/CENELEC kijkt nu of die standaarden kunnen worden overgenomen voor de AI-wetgeving. Dat is waar we nu als werkgroep AI in de Zorg & medische hulpmiddelen staan.”
Woud van regels
Met alle regels en voorwaarden op nationaal (zoals de AVG) en internationaal niveau is het duidelijk dat de bescherming van gegevens wordt gewaarborgd, maar het is de vraag of binnen het woud van regels voldoende waarborg bestaat voor het ontwikkelen van nieuwe AI-producten, stelt Joline van Sorge. Zij is werkzaam bij het Expertisecentrum Zorgalgoritmen, komt zelf uit de praktijk van het werken in een ziekenhuis en is lid van de werkgroep AI in de zorg & medische hulpmiddelen.
“Voor het trainen van AI-modellen is het afhankelijk welke techniek je gebruikt, het hoeft niet altijd zo te zijn dat de uitwisseling nodig is voor het ontwikkelen van AI. Ik denk wel dat - omdat de medische sector al te maken heeft met de MDR, ISO-standaarden, NEN-normen, WEGIZ (Wet Elektronische Gegevensuitwisseling in de Zorg) en de AVG - het goed is dat de werkgroep en alle relevante partijen erop aandringen dat er niet aan allerlei voorwaarden dubbel hoeft te worden voldaan. De complexiteit is hoog, maar de wet- en regelgeving moet homogeen zijn en niet los naast elkaar staan.”
Lees het hele artikel in ICT&health 1, die halverwege februari verschijnt.
