Ethisch design voor AI gedreven support system

wo 17 augustus 2022 - 13:55
hart-scaled
AI
Nieuws

Nell is bezig met het ontwerpen van een Clinical Decision Support System (CDSS) dat patiënten kan stratificeren volgens hun risico op hart- en vaatziekten. Het doel is het identificeren van onvervulde preventieve en chronische zorgbehoeften. Tevens wordt gewerkt aan een AI-gedreven functionaliteit, die zicht geeft op verschillende interventies en de risico’s voor patiënten voorspelt.

Het nieuwe AI gedreven CDSS wordt aangeduid met DECIDE:  een support system voor het cardiovasculaire risicomanagement in de eerstelijnsgezondheidszorg. De bedoeling is dat DECIDE een efficiënt middel wordt dat patiënten met hart- en vaatziekten en hun artsen ondersteunt bij het nemen van beslissingen. De website van Nell meldt: ‘Door het maken van betere keuzes kan mogelijk het risico op hart- en vaatziekten verkleind worden en de gezondheid van patiënten verbeterd.' AI wordt hier dus vooral preventief ingezet, maar wordt ook al gebruikt voor diagnoses, bijvoorbeeld bij hartfalen.

Levensstijl in kaart

Concreet wordt onderzocht welke gezondheidsinfo precies nodig is om de risico’s van patiënten in kaart te brengen. Geanalyseerd wordt onder meer of er kansen zijn om de levensstijl van betrokkenen te veranderen. Tevens wordt gestreefd om transparant te maken wat de mogelijke impact is van medische interventies voor de patiënt. Het inzetten van zo’n intelligent AI-CDSS systeem roept diverse vragen op. Het projectteam heeft daar oog voor en stelt voorop dat het systeem als goed als mogelijk voldoet aan juridische, ethische en maatschappelijke randvoorwaarden. Het project gaat expliciet voor een verantwoordelijk- en aansprakelijkheidsperspectief  (DECIDE-VerA). Het wordt daarbij expliciet ondersteund door het programma Ethiek en Gezondheid van ZonMw.

Interactieve interface support system

De inzet van zo’n AI-systeem dat patiënten met risico’s op hart- en vaatziekten in kaart brengt en uiteindelijk informatie geeft aan patiënten en artsen, heeft ook invloed op de arts-patiëntrelatie en de huisartsenpraktijken. Op basis van de onderzoeks-inzichten komen er straks voorstellen om de bij het systeem horende interface zo optimaal mogelijk in te richten, zodat de arts-patiëntrelatie en de gezamenlijke besluitvorming kan worden verbeterd. Bijvoorbeeld door de gezondheidsinformatie naar arts en patiënt te presenteren op een interactieve en gebruiksvriendelijke manier. 

Decide-Vera is good practice

De inzichten gegenereerd in DECIDE-VerA zijn een voorbeeld van een good practice op het terrein van de toegepaste ethiek. Het project sluit aan bij de EU-strategie om betrouwbare kunstmatige intelligentie te ontwikkelen. Tevens worden de uitkomsten waar mogelijk gegeneraliseerd, zodat ze ook gebruikt kunnen worden voor een bredere toepassing van AI.  NeLL werkt voor het onderzoek samen met de LUMC, Universiteit Leiden, Hogeschool Rotterdam en Eindhoven University of Technology.