De Europese artsenorganisatie CPME (Comité Permanente des Médecins Européens) heeft een beleidsdocument opgesteld over hoe kunstmatige intelligentie (AI) moet - en niet moet - worden toegepast in de klinische praktijk. Het document “Deployment of artificial intelligence in healthcare” benadert AI in de gezondheidszorg met scepsis en pleit voor strengere controles en robuuste ethische waarborgen voordat de technologie volledig wordt omarmd.
Goede AI, slechte AI
Na het doornemen van het 11 pagina's tellende beleid is het duidelijk dat de CPME voorzichtig, en zelfs weinig enthousiast, is over AI. Hoewel de organisatie de potentiële voordelen van AI in de gezondheidszorg erkent, benadrukt men tal van zorgen en voorwaarden die moeten worden aangepakt voordat het volledig kan worden geïntegreerd. Veel van de voorstellen zijn volkomen legitiem, maar sommige zouden, als ze werden geïmplementeerd, leiden tot overregulering.
De nadruk ligt vooral op risico's in plaats van kansen. Het beleid benadrukt uitdagingen zoals het verlies van banen, automatiseringsvooroordelen, risico's voor de privacy van gegevens en hoge kosten. De CPME herhaalt dat AI nooit artsen mag vervangen en dat het inzetten van AI geen desinvestering in andere onderdelen van de gezondheidszorg mag betekenen, wat duidt op een beschermende houding ten opzichte van menselijke expertise en bestaande prioriteiten in de gezondheidszorg.
In sommige uitspraken lijkt de CPME overdreven te reageren op de toenemende rol van AI. “Artsen moeten vrij zijn om te beslissen of ze een AI-systeem willen gebruiken, zonder repercussies, rekening houdend met het belang van de patiënt en met behoud van het recht om het niet eens te zijn met een AI-systeem,” zei CPME Vice President Prof. Dr. Ray Walley.
Er zijn echter ook praktische aanbevelingen voor de toepassing van AI in de gezondheidszorg en de naadloze integratie ervan in de klinische praktijk. Sommige zorgen zijn redelijk: “De meeste AI-producten die op de markt beschikbaar zijn, zijn niet gecertificeerd door een derde partij, waardoor ze onbetrouwbaar zijn voor toepassingen in de gezondheidszorg” of ”AI-systemen moeten voldoen aan medische ethiek, gegevensbescherming en privacyregels, maar er is momenteel geen consensus over hoe deze te handhaven.”
Artsen zijn bereid om AI te gebruiken, maar...
Het CPME-beleid benadrukt verschillende barrières voor het wijdverbreide gebruik van AI in de gezondheidszorg: de gefragmenteerde en dynamische aard van de sector, een proliferatie van niet-gecertificeerde AI-tools en een gebrek aan vertrouwen dat voortkomt uit het gebruik van niet-geverifieerde gegevensbronnen, hoge kosten voor infrastructuur en onderhoud, gekoppeld aan beperkte tijd voor professionals in de gezondheidszorg om opkomende technologieën te verkennen.
Dr. Christiaan Keijzer, voorzitter van CPME: “AI-producten moeten naadloos worden geïntegreerd in het informatiesysteem voor de gezondheidszorg. We moeten situaties vermijden waarin ze functioneren als standalone tools waardoor zorgverleners dezelfde informatie handmatig moeten invoeren in verschillende systemen. Dit is inefficiënt en veroorzaakt frustratie en administratieve burn-out.”
De ondoorzichtigheid van AI - het ‘black box’-probleem - zorgt ook voor ethische dilemma's omdat zorgverleners moeite hebben om de output van AI te begrijpen en te vertrouwen. Artsen zijn voorzichtig met het delen van gevoelige patiëntgegevens voor AI-training, uit angst voor datalekken of de GDPR (en nu ook EU AI Act). Door deze uitdagingen aarzelen veel medische professionals om AI volledig te omarmen in hun klinische praktijk.
Sommige aanbevelingen zijn waardevol en moeten door beleid worden aangepakt, terwijl andere erg generiek zijn en niks nieuws toevoegen aan het AI-debat. De CPME roept bijvoorbeeld op tot AI-systemen die prioriteit geven aan de werkelijke behoeften van zorgverleners en patiënten boven technologische vernieuwing, alsof die twee doelstellingen niet hand in hand kunnen gaan.
AI-tools moeten worden ingebed in bestaande klinische paden en ziekenhuissystemen in plaats van te functioneren als op zichzelf staande oplossingen. “AI moet worden ontworpen met de unieke complexiteit van de gezondheidszorg in gedachten en niet worden opgelegd als een one-size-fits-all oplossing. Het doel moet zijn om de klinische besluitvorming te verbeteren, niet om deze af te leiden,” aldus Dr. Keijzer.
“Zorgprofessionals mogen niet de 'zondebok' worden van slecht functionerende AI-systemen”
De CPME roept op tot strenge certificeringsnormen om de ethische en praktische uitdagingen van AI aan te pakken. Certificering moet cyberbeveiliging, privacy van gegevens en beperking van vooroordelen omvatten. Transparante trainingsgegevens en details over modelprestaties moeten worden gedeeld om vertrouwen te wekken bij zorgverleners.
“Zodra AI is ingezet, moet het voordeel ervan voortdurend worden geobserveerd en gemeten. Er moet een grootschalig wetenschappelijk onderzoek op lange termijn worden uitgevoerd naar de impact van AI in de gezondheidszorg, waarbij bijvoorbeeld wordt gekeken naar het banenverlies onder artsen, medische opleiding en training, diagnose- en behandelingsbeslissingen. Maar ook naar de impact van door AI gegenereerde of beïnvloede gegevens op de training van AI-modellen van de volgende generatie in de geneeskunde.”
Het beleidsdocument benadrukt de noodzaak van naleving van medische ethiek en regelgeving op het gebied van gegevensbescherming, waaronder de Artificial Intelligence Act (AIA) van de EU. Anonimiseringstechnologieën zijn essentieel om de privacy van patiënten te beschermen bij het gebruik van AI voor training en besluitvorming. Artsen moeten ook de autonomie behouden om te kiezen of ze op AI-aanbevelingen vertrouwen, zodat ze in het belang van hun patiënten kunnen handelen.
“Vertrouwen is de hoeksteen van een effectieve toepassing van AI in de gezondheidszorg”, zegt Prof. Dr. Ray Walley, vicepresident van de CPME. “Artsen hebben duidelijke richtlijnen nodig over hun verantwoordelijkheden bij het gebruik van AI, naast de garantie dat ze niet tot zondebok worden gemaakt voor systeemfouten.”
Digitale geletterdheid is de sleutel tot de adoptie van AI
Een belangrijk deel van het beleid richt zich op het uitrusten van professionals in de gezondheidszorg met de kennis en vaardigheden om AI effectief te gebruiken. De CPME beveelt aan om AI-geletterdheid op te nemen in medische opleidingen en regelmatige professionele ontwikkelingsmogelijkheden te bieden. Trainingsprogramma's moeten veelvoorkomende misvattingen over AI aanpakken en ervoor zorgen dat clinici het zien als een hulpmiddel om hun expertise aan te vullen en niet te vervangen.
Het beleid waarschuwt ook voor “automatiseringsvooroordelen”, waarbij artsen mogelijk te veel vertrouwen op door AI gegenereerde aanbevelingen zonder deze kritisch te evalueren. Er moeten maatregelen worden genomen om de besluitvaardigheid van artsen op peil te houden en een cultuur van voortdurend leren en kritisch denken te bevorderen.
Europese aanpak noodzakelijk
De CPME dringt er ook op aan dat door de overheid gefinancierde onderzoeksinitiatieven zich richten op de langetermijneffecten van AI in de gezondheidszorg, waaronder de effecten op de medische opleiding en praktijk. De CPME pleit voor duidelijke aansprakelijkheidsregelingen die ontwikkelaars en aanbieders aansprakelijk stellen, zodat individuele artsen worden ontlast van AI-gerelateerde fouten. Verzekeringsoplossingen voor AI-systemen met een hoog risico zouden de bezorgdheid verder kunnen wegnemen en de toepassing ervan kunnen bevorderen.
Nu gezondheidszorgsystemen in heel Europa worstelen met toenemende eisen en beperkte middelen, biedt het beleid van de CPME een uitgebreid kader om het potentieel van AI te benutten en tegelijkertijd ethische principes en het vertrouwen van patiënten te waarborgen. “Europese artsen benadrukken het belang van door de overheid gecoördineerde inspanningen om kennisomgevingen van voldoende omvang en klinische expertise op te zetten binnen nationale omgevingen. Deze coördinatie is cruciaal om duurzame samenwerking op het gebied van AI-onderzoek op zowel EU- als nationaal niveau te ondersteunen,” aldus dr.
Klik hier om het AI-beleidsdocument van het CPME, “Inzet van kunstmatige intelligentie in de gezondheidszorg”, te downloaden.
