D66 roept op tot waakzaamheid algoritmes

Het gebruik van algoritmes in de zorg neemt flink toe en mede door het gebruik hiervan worden innovatieve oplossingen ontwikkeld. Echter, er is ook een keerzijde. Om de voouitgang op het gebied van kunstmatige intelligentie (AI) te kunnen bijbenen, is meer toezicht nodig. Dat betoogt althans D66-politica Marietje Schaake.

In dagblad Trouw zegt Europees parlementariër D66 en kandidaat-lijsttrekker D66 Europa Marietje Schaake dat algoritmes wettelijk getoetst zouden moeten worden. Schaake wijst erop dat een beroep op ethiek alleen niet voldoende is om AI in goede banen te leiden. “Ethiek is immers 'zacht', en onderwerp van discussie. Het beschermen van universele mensenrechten, in wetten en rechtsstatelijkheid, is 'harder'”, zegt de politica.

Schaake pleit voor meer bevoegdheden en meer kennis bij toezichthouders en ACM zou toezicht moeten houden op algoritmes om de online rechtsstaat te kunnen handhaven. Daarmee kan volgens haar worden voorkomen dat de maatschappij te maken krijgt met ‘een geprivatiseerde Big Brother die beslist wat we wel of niet online mogen zeggen’.

Geen Chinese toestanden

Schaakte noemt in haar opinie-artikel China, waar moderne technologie wordt ingezet om grip te krijgen op het sociale leven van inwoners. In sommige steden in China wordt gewerkt met een social score-systeem waarbij technologie inwoners monitoort op (kleine) overtredingen. Indien iemand een bepaalde score behaalt, komt hij of zij bijvoorbeeld niet in meer aanmerking voor een hypotheek.

Schaakte vindt dat mensen het recht moeten hebben om in beroep te gaan tegen geautomatiseerde beslissingen waar zij nadeel van ondervinden. Dit model werkt volgens haar ook in New York. “Het toepassen van wetten online zoals die offline gelden moet de belangrijkste prioriteit zijn”, aldus Schaake.