De Raad voor Volksgezondheid en Samenleving (RVS) heeft een verkennend advies uitgebracht over kunstmatige intelligentie (AI) in de zorg. In het rapport gaat de RVS in op het belang van onderbouwing van AI met duidelijke (ethische) waarden. Ook hamert de RVS op tijdige maatregelen om ontwikkelingen op AI-gebied in de zorg in goede banen te leiden. Hiervoor wordt een tweesporenbenadering bepleit. Raadslid Greet Prins sprak hierover recent al tijdens de Openingsmanifestatie van de e-healthweek.
De RVS is een onafhankelijk adviesorgaan voor de regering en de Eerste en Tweede Kamer. Alle aspecten die van invloed zijn op de gezondheid en het functioneren van burgers in de samenleving worden bij de adviezen betrokken. De Raad stelt in 'Waarde(n)volle zorgtechnologie - Een verkennend advies over de kansen en risico's van kunstmatige intelligentie in de zorg' dat het toenemend gebruik van AI via onder meer zelflerende algoritmes voor preventie van ziekten en snellere diagnostiek vooral waardevol is.
‘Het kan zowel de kwaliteit, de toegankelijkheid en pluriformiteit als de betaalbaarheid en solidariteit van de zorg doen toenemen’, benadrukt de Raad. ‘Het is tegelijkertijd een waardenvolle technologie - AI is niet waardenvrij - die diezelfde publieke belangen kan ondermijnen. Wanneer de overheid deze ontwikkelingen op het gebied van AI helemaal vrij laat, lopen we het risico dat we afhankelijk worden van dominante private partijen.’
Afwachten geen optie
Het gaat vooralsnog om een verkennend advies omdat zoveel over de effecten van AI nog niet bekend en nog onzeker zijn. Een advies is echter al wel nodig, omdat afwachten geen optie is. ‘De gevolgen voor de zorg, de mogelijkheden en de risico’s van nieuwe technologie zijn weliswaar nu niet precies in kaart te brengen, zeker is wel dat kunstmatige intelligentie nu al volop wordt gebruikt en dat er al veel toepassingen in concrete praktijken worden ingezet. Niet alleen in de ziekenhuiszorg, maar juist ook in de zorg voor ouderen en in de zorg voor mensen met een (verstandelijke) beperking.
Waarden die in de Nederlandse gezondheidszorg gekoesterd worden, vormen het vertrekpunt voor het advies. Voorbeelden zijn:
- Kan kunstmatige intelligentie de toegankelijkheid van zorg bevorderen of is het juist ondermijnend voor die waarde?
- Technologie is nooit neutraal en in het ontwerp worden belangrijke keuzes gemaakt. Deze keuzes kunnen gewild en ongewild bepaalde waarden onderstrepen en andere aantasten.
Tweesporenbenadering
De RVS vindt het van belang tijdig maatregelen te nemen om de ontwikkelingen in goede banen te leiden. De Raad stelt een tweesporenbenadering voor: een spoor voor de lange(re) termijn en een spoor om morgen mee te beginnen.
- Het eerste spoor omvat het programmatisch volgen van AI-ontwikkelingen, kennis over AI genereren en delen, burgers informeren en aandacht voor AI in zorgopleidingen.
- Het tweede spoor betreft het stellen van kwaliteitseisen aan AI-toepassingen en deze ook afdwingen, het garanderen van datacontinuïteit van patiëntengegevens en ervoor zorgen dat burgers kunnen zien waar hun medische gegevens zijn opgeslagen en met wie ze worden gedeeld.
Met deze benadering kunnen naar de mening van de Raad de kansen die AI de zorg biedt optimaal benut worden en worden de risico’s zoveel mogelijk beperkt.
Greet Prins: impact AI groter
Greet Prins, lid van de RVS en bestuurder bij Philadelphia Zorg, stelde op de Openingsmanifestatie van de e-healthweek ook al de vraag: zijn we als zorgsector voorbereid op de komst van AI? Toepassing ervan biedt veel kansen, maar de impact van AI zal veel groter zijn dan de meeste e-health toepassingen die nu gebruikt worden. “Afwachten is geen optie, zeker ook in het licht van wat er onder meer in de VS en China al ontwikkeld wordt. We moeten het hier ook oppakken, maar wel goed de effecten in de gaten houden.”
Prins sprak onder meer over een ‘moral fog’ bij e-health toepassingen. Ethische overwegingen worden vaak niet meegenomen bij de ontwikkeling van digitale innovatie, dat komt later pas naar voren. “We moeten de eventuele negatieve effecten van AI in e-health toepassingen gaan mitigeren door te letten op elementen zoals kwaliteit, betrouwbaarheid, toegankelijkheid, betaalbaarheid en onderlinge solidariteit en pluriformiteit.”
Cultuur laten meewegen
Zo schetste het raadslid het belang om cultuur mee te laten wegen bij de ontwikkeling van e-health toepassingen. Een in China ontwikkelde applicatie kan een hele andere insteek hebben dan een die in Nederland is ontwikkeld, bijvoorbeeld op het gebied van privacy. Maar ook: hoe zorg je er voor dat iemand altijd toegang heeft tot zijn of haar data, ook wanneer een aanbieder van bijvoorbeeld een PGO failliet gaat?
“En wat gebeurt er wanneer jongeren massaal hun zorgverzekering gaan opzeggen omdat ze met behulp van AI-gebaseerde e-health toepassingen voorkomen dat ze ziek worden? Hoe staat het dan met de solidariteit en betaalbaarheid van zorg richting chronische zieken en ouderen? Dit zijn duidelijke vragen waar we nu al actie op moeten ondernemen.”
Een advies dat Prins meegaf, is dat de overheid dit oppakt en volgt met een zo breed mogelijk pallet aan stakeholders, waaronder ook stakeholders en patiënten, zodat regelgeving met AI-technologie mee kan ontwikkelen
