Met deze onaangename titel wil ik uw aandacht trekken. Gelukt? Laat ik u dan nu meenemen naar een interessante proef – de officiële naam ervan is Moral Machine - waarbij u wordt gevraagd om ethisch moeilijke keuzes te maken.
De situatie bij deze proef is als volgt. U bent de bestuurder van een auto met defecte remmen. U stormt af op een zebrapad waarbij u, als u niets doet, slachtoffers maakt. Ontwijkt u het zebrapad, dan crasht de auto tegen een betonblok en zult u zelf en uw medepassagiers verongelukken (fig 1). Er zijn vele combinaties gemaakt variërende tussen jonge en oude voetgangers, man en vrouw en al dan niet door rood licht lopend. In alle 13 geschetste scenario’s gaan er doden vallen, alle keuzes zijn akelig!
Internationale vergelijking
Het interessante is dat u uw beslissing kan vergelijken met vele internationale deelnemers. In een periode van 18 maanden zijn er 40 miljoen reacties verzameld van respondenten afkomstig uit 233 landen. Het blijkt bijvoorbeeld dat de ene nationaliteit meer aan zichzelf denkt dan de andere en eerder kiest voor het eigen belang dan dat ze zichzelf zullen opofferen. Al naar gelang het reactiepatroon hebben de auteurs zogenaamde zuidelijke, westerse en oosterse profielen opgesteld (zie fig 2).
Voor de keuze van bijvoorbeeld uw nieuwe auto is dit van belang. Want autonome auto’s hebben straks algoritmes die voor u beslissen, al ingebouwd. Kiest u liever een auto met een westers profiel, of een met een oosters profiel?
Training van algoritmes
Ook, of juist, in het ziekenhuis willen we weten hoe algoritmen werken en waar die op zijn gebaseerd. De beste algoritme zijn getraind op een patiëntenpopulatie die overeenkomt met die van je eigen doelgroep. Een algoritme getraind op data afkomstig uit een land waar bijvoorbeeld tuberculose (tb) endemisch is, zal een vlekje op de foto eerder als tb diagnosticeren dan als bijvoorbeeld een tumor.
Het is al beschreven dat het diagnostische algoritme dat goed in ziekenhuis A werkt, veel minder voldoet in ziekenhuis B. Het liefst heb je dat je algoritme is getraind met ‘home made’ data.
Eigen algoritme bouwen
In de VS werd in mei van dit jaar een initiatief gelanceerd waarbij alle 38.000 radiologen worden ondersteund door een platform waarbij zijzelf hun eigen algoritme kunnen maken en verder ontwikkelen. Dit onder het motto: bringing an AI model to the patient data, instead of patient data to the model.
Na een 3 maanden durende pilot samen met Ohio State University en het Massachusetts General Hospital en Brigham en Women’s Hospital’s Center for Clinical Data Science (CCDS), lanceerden NVIDIA en ACR (Data Science Institute) het NVIDIA Clara AI toolkit dat gebruikt werd om het AI-Lab te maken.
Radiologen kunnen zo hun AI bouwen en finetunen op hun eigen populatie. AI wordt zo maatwerk in plaats van confectie. De achterliggende gedachte is dat de eigen gegevens de beste zullen zijn om een algoritme te ontwikkelen voor de eigen regio. Ook boeiend dat het platform gemaakt is voor radiologen die niet vertrouwd zijn met programmeren. Ook in het Verenigd Koninkrijk, waar een chronisch gebrek is aan radiologen, wordt dit programma uitgerold.
Je eigen algoritme maken op basis van data van eigen teelt. AI komt nu wel heel dicht bij!
