Health-apps: van privacy-by-design naar ethics-by-design

ma 1 maart 2021 - 11:00
Corona-app-vrouw
Wetgeving
Blog

Het is alweer even geleden, maar oktober 2020 was voor mij een drukke maand in de Eerste Kamer. Eerst voerde ik namens de D66-fractie het woord over de wet die de juridische basis vormt van de CoronaMelder-app (Tijdelijke wet notificatieapplicatie Covid-19). Twee weken later hield ik de Algemene Politieke Beschouwingen, waar de fractievoorzitters jaarlijks met de minister-president in debat gaan over het gevoerde kabinetsbeleid en de Miljoenennota.

In beide debatten stond ik stil bij de disruptieve impact van het SARS-CoV-2 virus op alle facetten van onze maatschappij, en de bijbehorende medische, politiek-beleidsmatige, ethische, en technologische uitdagingen.

De derde coronagolf lijkt inmiddels in aantocht. Ook in oktober 2020 steeg het aantal besmettingen en we keken dan ook welwillend naar instrumenten om de pandemie van het SARS-CoV-2 virus beheersbaar te houden. De inzet van digitale technologie zoals een CoronaMelder-app dient in principe een legitiem doel (namelijk bestrijding van Covid-19) en er is niet meteen een alternatieve methode die zou kunnen ondersteunen in het Bron- en Contactonderzoek (het principe van subsidiariteit).

Belang privacy

De rechtstatelijke waarborg die meteen in het oog springt, is privacy. Na een aanvankelijk gehaast proces met een appathon waar geen van de ontwikkelde apps aan de voorwaarden kon voldoen, is een nieuwe, transparante werkwijze geïnitieerd waarin de principes van privacy-by-design zijn gevolgd. De overheid deed veel om de privacy van gebruikers te waarborgen. Er is gestreefd naar maximale dataminimalisatie en ook de overige beginselen van gegevensbescherming, zoals die in artikel 5 van de Algemene Verordening Gegevensbescherming (AVG) zijn vastgelegd, worden voldoende nageleefd. Technisch gezien is er dus in korte tijd een solide app ontwikkeld.

Goed gebruik van technologie gaat natuurlijk verder dan een betrouwbare ‘open source’ broncode en het volgen van de AVG-regels. Om niet alleen over privacy-by-design te kunnen spreken, maar ook over ethics-by-design, dient het ontwerp, de introductie, het gebruik en de evaluatie van deze app zorgvuldig te gebeuren.

Moeilijk dilemma

De ‘CoronaMelder wet’ legde in die zin een moeilijk dilemma bloot. Aan de ene kant zit de winst van de app vooral in het feit dat het een manier is om de GGD’s te ontlasten en ‘tracing delay’ te verkleinen, zoals is gemodelleerd in verschillende wetenschappelijke studies. Immers, de app kan een notificatie geven precies op het moment dat je misschien wel besmet bent maar nog geen klachten hebt. Juist dan kan je andere mensen besmetten. In die zin installeer je de app niet alleen voor jezelf, maar is het vorm van digitale solidariteit om anderen, die misschien kwetsbaarder zijn dan jij, te beschermen, zoals ouderen, longpatiënten, en andere chronisch zieken – dit geldt overigens ook voor je laten vaccineren!

Bovendien toont onderzoek overtuigend aan dat de app zelfs met een relatief laag gebruikersaantal al echt iets toe kan voegen. Ook zal de app via het uitwisselen van de codes beter in beeld hebben met wie jij de afgelopen twee weken in aanraking bent gekomen dan het menselijk geheugen.

Daar staat tegenover dat slechts een minderheid van de mensen gelooft dat de informatie uit de app strikt vertrouwelijk blijft. Het datalek bij de GGD zal dit vertrouwen niet verhoogd hebben. Ook kan een dergelijke app chilling effects bevorderen: ervoor zorgen dat we meer en meer gewend raken aan het idee dat iets of iemand doorlopend meekijkt bij alles wat we doen. Het maakt het idee van surveillance normaal, terwijl dat het niet is en in een liberale democratie ook nooit mag worden.

Aan hoogste eisen voldoen

Technologie zoals deze app moet daarom aan de hoogste eisen voldoen en echt noodzakelijk zijn. Juist de effectiviteit en de uitwerking van deze technologie op maatschappelijk vlak zijn van groot belang. Hier zitten verschillende knelpunten die uitgebreid in het debat aan de orde kwamen, vooral wat betreft de vrijwilligheid, de hoge foutmarges en het testbeleid dat destijds nog niet voldoende op orde was.

In de CoronaMelderwet is een antimisbruikbepaling opgenomen die ervoor moet zorgen dat niemand gedwongen kan worden de app te downloaden. Hierdoor wordt het vrijwillige karakter van de app formeel gewaarborgd, maar in de praktijk kan het knellen. Uit de techniekfilosofie weten we dat techniek nooit neutraal is, en altijd een ‘script’ met zich meebrengt, zoals de Franse wetenschapper Bruno Latour dat heeft beschreven. De context van technologie doet ertoe.

Normatief kader gezondheidsapps

Na een tweedaags debat waarin uitgebreid over het ontwerp, de voorwaarden en de evaluatie van de CoronaMelder is gesproken, hebben we de wet gesteund. Inmiddels zijn we een aantal maanden verder en hebben ongeveer 4.6 miljoen mensen de app gedownload. Ik heb nog geen geluiden opgevangen over druk of dwang om de CoronaMelder te installeren, maar tegelijkertijd is de CoronaMelder er ook niet in geslaagd om de tweede golf in te dammen.

Het is goed dat de app meerdere malen geëvalueerd wordt, zodat de effectiviteit in beeld gebracht kan worden, indien nodig tijdig kunnen ingrijpen en kunnen leren voor toekomstige gezondheidsapps. In het debat zegde minister De Jonge mij toe dat hij de Gezondheidsraad opdracht zou geven een commissie in te richten die een normatief kader voor gezondheidsapps voor screeningsdoeleinden gaat ontwikkelen. Het aantal gezondheidsapps stijgt duizelingwekkend snel, en ze hebben allemaal een verschillend doel en karakter.

Een door de overheid ontwikkelde app is nieuw en het is dan ook belangrijk dat de Gezondheidsraad een kader ontwikkelt met heldere criteria voor toekomstige gezondheidsapps en digitale monitoring. Deze commissie is recent van start gegaan en kan ethische kaders bieden voor de ontwikkeling van ongetwijfeld een snel groeiende markt. Zoals geneesmiddelen en andere interventies in het zorgdomein niet zonder ethische kaders kunnen, geldt dat ook voor apps en andere digitale technologie. Op deze manier verbreden we de voorwaarden voor het ontwikkelen en aanbieden van gezondheidsapps van privacy by design naar ethics by design.