Tijdens Fe+Male Tech Heroes sprak Responsible AI Clinical Lead bij Philips, Vanda Vitorino de Almeida, over het verantwoord gebruik van AI in de gezondheidszorg. Ze zei dat iedereen een verantwoordelijkheid heeft om AI op een verantwoorde manier in de zorg kan worden toegepast. Vanda’s workshop valt samen met de wereldwijde publicatie van het Philips Future Health Index rapport. Op 10 juni presenteert Philips het Nederlandse rapport.
In dit rapport worden zorgprofessionals en patiënten bevraagd over het gebruik van AI in de zorg en de randvoorwaarden voor een effectief gebruik van AI. Het rapport eindigt met een aantal aanbevelingen om het vertrouwen in AI te versterken, waaronder bewezen effectiviteit, het voorkomen van vooroordelen in de data en de noodzaak voor de juiste wettelijke kaders voor het gebruik van AI.
AI verandert de zorg
De manier waarop zorg wordt geleverd binnen ziekenhuizen kan enorm veranderen door de komst van kunstmatige intelligentie. Ook nu al, wordt AI toegepast in oplossingen zoals de Philips MR SmartSpeed en AI Manager, die klinische processen helpen versnellen en zorgprofessionals ondersteunen. AI kan zorgprofessionals tijd besparen op bepaalde taken, zodat zij hun aandacht kunnen richten op de patiënt.
Vitorino de Almeida legt in haar toespraak uit dat AI er niet is om mensen te vervangen, maar om de fysieke capaciteit van zorgverleners te versterken. “De echte waarde van AI ontstaat als het helpt mensen te ondersteunen om betere zorg te leveren”, aldus Vanda. AI was een belangrijk thema tijdens de 2025 editie van de Fe+Male Tech Heroes conferentie, welke dit jaar getiteld was ‘Rethinking Leadership’. “Leiderschap in verantwoord AI is een basisvoorwaarde voor het succes van AI. Alleen als we het goed doen, kan het zijn volledige potentie bereiken,” zegt ze.
Wat Vitorino de Almeida betreft ligt deze verantwoordelijkheid niet bij één afdeling, maar moet iedereen zich bewust zijn van het belang van verantwoordelijk gebruik van AI. Ze gaf de deelnemers van haar workshop een kijkje in voorwaarden waaraan verantwoorde AI moet voldoen. Aan de hand van de Philips Responsible AI Principles, acht in totaal, begeleidde Vanda de deelnemers door het fundament van veilige, ethische en betrouwbare AI-oplossingen. Daarbij werden zaken zoals menselijk overzicht, privacy en security, transparantie, de uitlegbaarheid van het model en eerlijke vertegenwoordiging van doelgroepen verder werden uitgediept.
Vooroordelen door beperkte data
Als AI-modellen input krijgen van beperkte of bevooroordeelde datasets dan zijn bepaalde groepen in de samenleving niet vertegenwoordigd zijn in de oplossing. Een voorbeeld is het diagnosticeren van hartaanvallen bij vrouwen. Dat is moelijker omdat de meeste data van hartaanvallen afkomstig zijn van mannen
“Er worden dan cruciale keuzes gemaakt op verkeerde aannames,” aldus Vitorino de Almeida. “En dat is geen technisch, maar een ethisch vraagstuk.” Met vragen zette Vitorino de Almeida de deelnemers aan het denken: Ben je kritisch op de data die je gebruikt? Is hier toestemming voor gegeven? Meten we wat we willen meten? Kloppen de conclusies uit dit onderzoek? Op de vraag hoe je als individu kan vertrouwen op de kwaliteit van een onderzoek, artikel of nieuws, is Vanda duidelijk: “Bewustzijn is het belangrijkste startpunt. En vervolgens, check de bronnen.” Ze vervolgt dat er bij het gebruik van AI altijd menselijk overzicht moet zijn. En volgens Vitorino de Almeida kan iedereen hierbij een rol spelen.
De stem van de patiënt
Volgens haar is ethische reflectie op AI geen luxe of formaliteit maar de basis van een veilige en eerlijke technologie. Volgens haar zijn patiënten niet altijd in staat om de meest verstandige keuze te maken, en dit vraagt om extra zorgvuldigheid als het gaat om privacy en het gebruik van data. “Wij zijn hun stem en daar moeten we verantwoord mee omgaan”, besluit ze.
Universitair hoofddocent bio-ethiek Karin Jongsma van het UMC Utrecht doet ook onderzoek naar de samenwerking tussen mens en AI. Haar onderzoek richt zich voornamelijk op de ethiek van AI-toepassingen in de zorg. Specifiek gaat het dan om de invloed van AI op de menselijke expertise en om de samenwerking tussen arts en AI, ook wel ‘human-AI collaboration’ genoemd. Volgens haar biedt AI zeker mogelijkheden, maar gaat het niet vanzelf de goede kant op.
