Het toepassen van data analytics en e-health zit in de lift. Dat heeft ook een schaduwkant, stelt Annelien Bredenoord, hoogleraar Ethiek van Biomedische Innovatie aan het UMC Utrecht. “Om een verantwoorde inzet van nieuwe technologie te waarborgen en misbruik te voorkomen, is het van belang ethische vragen al vanaf het begin van de ontwikkeling mee te laten wegen.”
Het toepassen van data analytics en e-health zit in de lift. “Dat heeft veel voordelen, maar elke innovatie kent een schaduwkant: medische data kunnen op een verkeerde manier worden gegenereerd, gebruikt of teruggekoppeld aan de patiënt,” stelt Annelien Bredenoord, hoogleraar Ethiek van Biomedische Innovatie aan het UMC Utrecht. “Om een verantwoorde inzet van nieuwe technologie te waarborgen en misbruik te voorkomen, is het van belang ethische vragen al vanaf het begin van de ontwikkeling mee te laten wegen.” Ter ondersteuning daarvan start Bredenoord met het opzetten van een ethisch kader voor e-health innovaties. Aan het beschikbaar stellen van een nieuw medicijn aan patiënten gaat een lang wetenschappelijk studie- en toetsingstraject vooraf. Ook worden er wettelijke afspraken over gemaakt, vertelt professor Annelien Bredenoord, al vele jaren betrokken bij de ethische analyse van nieuwe biomedische technologie. “Bij hulpmiddelen als medische apps, waarvan er inmiddels ruim 325.000 op de markt zijn, is een CE-keurmerk vaak al de hoogste toetsingsvorm. Dat vind ik kwalijk, want ze kunnen serieuze implicaties hebben voor de patiënt.” Om de inzet van data analytics en e-health in de praktijk duurzaam en zorgvuldig te laten plaatsvinden, is een ethisch kader in haar ogen onontbeerlijk. Kernvraag voor medisch ethici Medische ethiek gaat volgens Bredenoord niet om de vraag òf nieuwe technologie moet worden ontwikkeld, maar hoe en onder welke voorwaarden dit moet gebeuren. “Al sinds de mens in staat is gereedschap te maken, heeft technologie ons veel welzijn, voorspoed, intelligentie en extra levensverwachting gebracht,” licht ze toe. “Net als cultuur vind ik techniek een intrinsiek onderdeel van wie wij zijn en iets dat je met elkaar doet.” Wel roept technologische innovatie, ook op het gebied van data analytics en e-health, tal van ethische vragen bij Bredenoord op. Eén daarvan is: hoe komen zelflerende algoritmes tot stand en welke impliciete waarden hanteren de ontwikkelaars daarbij? “Een algoritme bevat al veel morele keuzes,” zegt Bredenoord. “Zeker bij zelflerende algoritmen is niet altijd duidelijk hoe adviezen tot stand komen. Daarnaast moet je je afvragen hoe breed of universeel je wilt dat het algoritme is: ik denk dat rekening moet worden gehouden met verschillen per land, gezondheidssysteem, etniciteit en geslacht. Niet zelden vormen blanke mannen het uitgangspunt in andere vormen van medisch-wetenschappelijk onderzoek, terwijl vrouwen worden uitgesloten omdat ze meer variabelen met zich meebrengen, zoals de menstruatiecyclus. Maar je wilt dat je onderzoek voor iedereen geldt.” Daarnaast spelen factoren als geldelijk gewin en ‘snel scoren’ vaak een belangrijke rol voor ICT-ontwikkelaars, ook in de zorg.Ethiek blijkt vaak een enabler van goede nieuwe oplossingenBij elke innovatie moet volgens Bredenoord dan ook nagegaan worden of die ook echt wordt ontwikkeld om de zorg duurzamer en goedkoper te maken. “Dat is voor mij de kernvraag voor een medisch ethicus: hoe kun je technologie omzetten in goede zorg en goed medisch wetenschappelijk onderzoek, zodanig dat mensen zo veel mogelijk profijt hebben van de positieve kanten en zo min mogelijk last hebben van de negatieve bijeffecten.” Donkere kanten techniek Elke technische innovatie kent donkere kanten, die buitenproportioneel vaak terechtkomen bij kwetsbare groepen, is Bredenoords ervaring. Zij vindt het dan ook gevaarlijk als mensen voetstoots aannemen dat technologie niet tegen te houden is en ons leven gaat beheersen. “Hoe kun je als je dat echt gelooft nog medevormgever zijn van technologie,” vraagt ze tijdens haar oratie ‘Kan ethiek de biomedische wetenschap redden?’, 2 maart jl. aan de Universiteit Utrecht. Bredenoord vindt het dan ook belangrijk ethici bij innovaties te betrekken en ethische vraagstukken vanaf het begin van een ontwikkeltraject helder te krijgen en mee te laten wegen. “Medisch ethici gaan daarbij systematisch te werk. Ontwikkelaars van een nieuwe medische applicatie of artsen die deze willen gebruiken, voelen vaak dat ze ergens tegenaan lopen, ze hebben een onderbuikgevoel. Of er spelen heel heftige emoties bij patiënten. Een medisch ethicus denkt alles systematisch door en maakt expliciet wat mensen impliciet voelen, zonder daarbij zelf meteen een waardeoordeel te vellen.” Dat zijn kwesties als:
- Deze waarden zijn in het geding.
- Dit is de mogelijke impact op de arts-patiëntrelatie.
- Dit begrijpen we niet over de ethiek van het algoritme.
- Daar zitten vertrouwenskwesties.
- Deze interpretatie van autonomie kan hier een rol spelen.
- Op die manier kun je de zelfredzaamheid bevorderen.
- Dit wordt als (on)plezierig ervaren door patiënten.
- Dit een vorm van (verantwoorde) beïnvloeding of machtsuitoefening.
- Dit is meer een vraag over regulering en hier heb je een jurist voor nodig.
Zelflerend algoritme bevat al veel morele keuzesIn zo’n interdisciplinair ontwikkelteam zorgt de medisch ethicus niet alleen voor het expliciet maken van impliciete waarden, maak ook voor verbinding tussen de verschillende partijen. “Als ethicus stel je veel vragen en omdat je niet alle vakjargon kent, dwing je de betrokkenen tot helder formuleren. Dat geeft overzicht en brengt partijen nader tot elkaar”, zegt Bredenoord. “Vaak wordt gedacht dat ethiek lastig is en innovatie tegenhoudt, maar in de praktijk zie ik het juist als een enabler van goede nieuwe oplossingen.” Ethiek rond big data Bredenoord is als medisch ethicus betrokken geweest bij tal van biomedische innovaties, zoals stamcelonderzoek, biobanken, gene editing en voortplantingstechnologie. Zij ziet op ethisch gebied duidelijk parallellen met data analytics en e-health innovaties. “Bij veel biomedische toepassingen worden grote hoeveelheden data uit menselijke cellen of weefsel ‘getrokken’. Net als bij e-health heb je hier te maken met big data. Dat levert vergelijkbare ethische vragen op als: hoe ga je met deze data om en hoe koppel je ze terug aan de patiënt?” Als voorbeeld van een biomedische ‘big data’ toepassing noemt ze gene sequencing. “Tien jaar geleden begonnen labs met het systematisch in kaart brengen van menselijk DNA. Daarbij kwam meteen de ethische vraag naar boven: kun je zomaar het materiaal van mensen sequencen en als je ergens een mutatie vindt, heb je dan de morele verplichting om dat de patiënt te vertellen? Binnen deze onderzoekslijn hebben we een ethisch kader ontwikkeld voor toevalsbevindingen: hoe ga je om met dingen die je vindt, waar je niet naar op zoek was. Die hebben een grote impact, zeker als het gaat om een kankermutatie. Enerzijds heeft dat een groot klinisch nut, je kunt mensen op tijd waarschuwen en stappen ondernemen, maar het heeft ook een enorme emotionele impact op de patiënt en zijn naasten. En het heeft consequenties voor bijvoorbeeld iemands verzekerbaarheid en toekomstperspectief.” Genetisch terugkoppelmodel Het ethisch kader dat in dit verband is ontwikkeld, is opgezet in de vorm van een genetisch terugkoppelmodel. Daarin kunnen mensen eerst aangeven of ze wel/niet gesequencend willen worden en of ze wel/niet willen dat er iets met de bevindingen wordt gedaan. Bredenoord: “Zo’n sequence kan heel veel informatie opleveren, want het gaat om ruim 20.000 genen. Uit gedragswetenschappelijk onderzoek is gebleken dat mensen niet meer kunnen kiezen als ze te veel informatie aangeboden krijgen. Het is alsof je een hongerig iemand een groot Chinees menu voorhoudt, dan weet hij echt niet meer wat hij moet nemen. Mensen voelen zich ongelukkig bij te veel keuzemogelijkheden en dat geldt ook voor geen keuze. Een gelimiteerd aantal keuzemogelijkheden blijkt het beste te werken.” Op basis van deze inzichten is een ethisch framework opgezet voor ‘bijvangst’ bij gene sequencing. Dit bestaat uit vragenlijsten met een soort keuzemenu’s waarin kankerpatiënten kunnen aangeven waar ze van op de hoogte gesteld willen worden. “Dus niet ‘ja op alles’, maar bijvoorbeeld als het direct relevant is voor de gezondheid, het gevolgen heeft op latere leeftijd of als het gaat om een hoog risico op kankermutaties,” legt Bredenoord uit. “De vragenlijsten zijn inmiddels voorgelegd aan 850 kankerpatiënten. Op basis daarvan gaan we bekijken of ze voorkeuren hebben en makkelijker kunnen beslissen wat ze willen. Dit door KWF gefinancierd onderzoek bevindt zich nu in de afrondende fase, de resultaten volgen nog.” Toepasbaar op data-innovatie Deze manier van denken is volgens Bredenoord ook goed toepasbaar op e-health oplossingen waarbij big data een rol spelen. Ze wordt vanuit deze hoek dan ook steeds vaker gevraagd om advies bij innovaties. “Mijn advies is natuurlijk het liefst gebaseerd op gedegen onderzoek,” stelt Bredenoord. Op biomedisch gebied kan ze voor ethische vragen terugvallen op vele onderzoeken en publicaties. Wetenschappelijk onderzoek naar ethiek bij data analytics en e-health staat echter nog in de kinderschoenen. Daarom wil ze zelf een begin maken met een ethisch framework voor e-health innovaties. “We hebben hiervoor al enkele onderzoeksaanvragen ingediend en zijn nog bezig met het
