AI kan op vele manieren helpen, maar dan is het wel belangrijk dat het verantwoord wordt gebruikt. Dat stelt Ger Janssen, Principal Data & AI Scientist bij Philips,in een artikel over de brAInpower-expositie in het Philips Museum. In deze expositie wordt bezoekers worden gevraagd om zelf na te denken over responsible AI een eigen mening te vormen.
Janssen maakt deel uit van het Responsible AI team bij Philips, dat afdelingen binnen het concern ondersteund om AI op een betrouwbare, ethische en robuuste manier toe te passen. De juridische en ethische kwesties die hierbij centraal staan, komen terug in de brAInpower-expositie.
Juridische en ethische kwesties
Janssen en zijn collega Arlette van Wissen zijn beiden te zien in twee video’s in de expositie met diverse vraagstukken over het toepassen van (Responsible) AI: kan het groepsbelang boven individueel belang staan bij het gebruiken van persoonsgegevens; kan AI een deel van de taken van de mens overnemen, waardoor die mensen zaken kunnen doen die wellicht veel leuker zijn? Zwart-wit dilemma’s die een startpunt vormen om een mening te vormen over het wel of niet toepassen van AI.
Een belangrijk voorbeeld van een hedendaags vraagstuk is het gebruik van de grote hoeveelheden datasets die nodig zijn om AI-modellen en -toepassingen te trainen. Hoe ga je als bedrijf verantwoordelijk om met die data, is een vraag waar veel organisaties mee worstelen. Janssen: “En hoe waarborg je de privacy van individuen? Dit zijn vraagstukken waar we voortdurend mee te maken hebben als bedrijf in de gezondheidstechnologie.”
Kritisch over AI-output
Ook de output van AI-modellen moet altijd kritisch worden beoordeeld – vooral de betrouwbaarheid van generatieve AI. De antwoorden zijn net zo goed als de beschikbare data en de gegevens waarop een AI-toepassing getraind zijn. Antwoorden kunnen goed zijn, in de buurt of compleet verzonnen – bijvoorbeeld door een hallucinerende AI.
Janssen stelt dat AI bijvoorbeeld goed testresultaten of gesprekken kan samenvatten, maar zal een arts altijd de resultaten moeten controleren. “Je moet weten wanneer je AI wel en niet gebruikt. En hoe je dat gebruikt, zodat je het volledige potentieel kunt benutten.”
Voorzichtig beginnen
Cruciaal bij elk gebruik van AI is verder een voorzichtig begin, waarbij vooraf naar de risico’s gekeken worden die introductie van AI met zich meebrengt. Dat brengt overigens weer andere dilemma’s met zich mee, want hoe bepaal je wat prioriteit heeft: het risico of het voordeel? Janssen hierover: “Artsen maken soms fouten, want het zijn mensen. We verwachten van AI dat het altijd foutloos is, maar dat is natuurlijk niet zo. AI moet minstens net zo goed zijn als de mens; dat is de basis, als er maar altijd een mens meekijkt met de resultaten.”
Janssen is overigens wel overtuigd van de kracht van AI. Zo waren veel radiologen bij de introductie van AI-variant machine learning voor diagnostiek bang dat zij vervangen zouden worden. Maar hoewel AI-toepassingen vaak beter in staat blijken om in een vroeger stadium tumoren te ontdekken, helpt dit radiologen vooral om hun werk beter te doen. “Radiologen die hiervoor open staan, zullen uiteindelijk radiologen vervangen die er niet voor open staan”, meent Janssen. “ Zij worden ondersteund in hun werk door AI, zodat ze hun werk makkelijker en beter kunnen doen en meer tijd overhouden voor patiënten.”
