Of we het nu willen of niet: AI is niet meer weg te denken uit ons dagelijks leven. Op elk medisch congres is artificiële intelligentie (AI) een hot topic. Op welke manier gaat generatieve AI het medisch-wetenschappelijk onderzoek, de gezondheidszorg en het werk van artsen veranderen? Kan AI artsen vervangen? Universitair hoofddocent bio-ethiek Karin Jongsma van het UMC Utrecht doet onderzoek naar de samenwerking tussen mens en AI.
Jongsma geeft leiding aan een groep onderzoekers die zich bezighoudt met de ethiek van (bio-)medische technologie, zoals digitale technologie en AI. Haar eigen onderzoek richt zich voornamelijk op de ethiek van AI-toepassingen in de zorg. Specifiek gaat het dan om de invloed van AI op de menselijke expertise en om de samenwerking tussen arts en AI, ook wel ‘human-AI collaboration’ genoemd. Jongsma probeert inzichtelijk te maken wat daaronder wordt verstaan en of die ontwikkeling wel wenselijk is. Volgens haar biedt AI zeker mogelijkheden, maar gaat het niet vanzelf de goede kant op.
Ethische kant van AI
AI is snel, kan de zorg efficiënter maken en zorgprofessionals ontlasten. Jongsma: “Daar kan niemand op tegen zijn, toch? In de ethiek analyseren we onder andere deze beloften. Er wordt van technologische toepassingen wel vaker gezegd dat ze zaken makkelijker, beter en efficiënter maken. Maar hoewel het waar is dat een e-mail sneller is verstuurd dan een brief, besteden we tegenwoordig meer tijd aan het lezen en versturen van e-mails dan dat we ooit aan brieven schrijven hebben gedaan. De vraag is dus hoe realistisch de beloften zijn die er over AI worden gedaan.”
Een andere vraag is hoe betrouwbaar AI is. Bij complexe diagnostische taken interpreteert AI gegevens om voorspellingen te doen. De vraag is dan: hoe komt AI tot een voorspelling? En op basis van welke gegevensset heeft AI dat geleerd? Bevat die gegevensset geen vervuilde gegevens of bias? Jongsma: “Deze technologie morrelt aan onze epistemische praktijken, oftewel hoe we tot bewijs komen en wat als bewijs telt. Hierbij speelt ook de ethische vraag: wat is de rol van de arts, en willen we dat AI taken overneemt van artsen of ondersteunend is aan artsen? Wij moeten die keuzes maken.”
Eigen beoordelingsvermogen
De belangrijkste vraag die bij nieuwe AI-innovaties moet worden gesteld, is of de innovatie een probleem oplost en of een algoritme hierbij meerwaarde heeft. Bovendien is altijd nog de vraag of een AI-systeem dat goed functioneert in een experimentele setting ook tot zijn recht komt in de weerbarstige klinische praktijk. Er moet dan ook van tevoren worden nagedacht over wat er gebeurt als het niet goed werkt. Jongsma: “Bovendien vraagt waardevolle toepassing van AI om méér dan een technisch goed functionerend systeem. De arts moet ook de juiste kennis en vaardigheden hebben om goed met het systeem om te kunnen gaan.” Het is dan ook een goed idee om zorgmedewerkers een AI-opleiding aan te bieden, zoals sommige ziekenhuizen nu al doen.
AI doet met name een beroep op het beoordelingsvermogen van artsen. Die moeten kunnen inschatten hoe de uitkomst van een AI-systeem tot stand komt en welke beperkingen het systeem heeft. Jongsma: “Ook moeten artsen goed nadenken over wat ze wel en niet weten, wat AI wel en niet weet en hoe zich dat tot elkaar verhoudt. Pas dan kun je de inzichten van beide goed met elkaar combineren.”
Veel mogelijkheden
Jongsma benadrukt dat ze niet tégen AI is. “Integendeel, ik zie juist dat het veel mogelijkheden biedt. Het wordt nu al ingezet om de beeldvormende diagnostiek te verbeteren en administratieve processen te vergemakkelijken. Maar we moeten bij het ontwikkelen en implementeren van AI wel vragen blijven stellen en opletten dat we de regie houden. We zijn er zelf bij, dus we moeten goed blijven opletten.”
