Onvoldoende transparantie struikelblok Automated Machine Learning Artsen willen inzicht in ‘black box’

16 oktober 2019
Onvoldoende transparantie struikelblok Automated Machine Learning Artsen willen inzicht in ‘black box’

In de gezondheidszorg is nog veel terrein te winnen op het gebied van gebruik en slim verwerken van data. Automated Machine Learning (AutoML) zou hieraan kunnen bijdragen door artsen en andere zorgprofessionals in staat te stellen met hun eigen data aan de slag te gaan. Technieken die waarde uit data halen, zijn via AutoML toegankelijk te maken voor een groter publiek. Deze self-service data-science kan datagedreven ontdekkingen en ontwikkelingen in de medische wereld versnellen. Een veelbelovende ontwikkeling, maar om het vertrouwen van artsen voor deze technologie te winnen, blijkt meer transparantie van de onderliggende algoritmiek nodig.

AutoML is te vergelijken met een zelfrijdende auto. Om gebruik te kunnen maken van Machine Learning heb je een opleiding plus kennis en kunde van de techniek nodig. Certificaten van cursussen over Machine Learning zijn te vergelijken met een rijbewijs voor een normale auto. Je hebt een rijbewijs nodig om zelfstandig in een auto te mogen stappen, als bewijs van jouw kennis, kunde en ervaring over het besturen van een auto. 

Bij het instappen in een zelfrijdende auto hoeft dit niet, net als dat je geen rijbewijs nodig hebt om AutoML te gebruiken. Wanneer je in een zelfrijdende auto stapt, geef je deze jouw bestemming op en eventueel het type route dat je wilt rijden: een route met mooie uitzichten of de snelste. Met AutoML verloopt dit bijna hetzelfde. Het enige dat je extra moet leveren, is de kaart (dataset). Verder geef je aan van welke variabele je de waardes wilt voorspellen (adres) en op welke manier de voorspelling geoptimaliseerd moet worden (type route). 

Zelfrijdende functies

Door de zelfrijdende functies is AutoML heel interessant voor de zorg. Op basis van de gegeven dataset, het doel en type route kiest de AutoML-methode zelf welk van de beschikbare algoritmes het beste resultaat oplevert voor jouw dataset en jouw doel. Daarnaast wordt het gekozen algoritme ook gefinetuned voor de optimale performance, dat alles zonder menselijke tussenkomst. 

Vanuit technisch oogpunt lijkt AutoML een perfecte basis om self-service data-science mee op te zetten. Zonder tussenkomst van een expert kan een arts zelf aan de slag met zijn of haar eigen data om nieuwe inzichten te verkrijgen. 

Deze belofte enthousiasmeerde vijf arts

(-onderzoekers) uit drie topklinische ziekenhuizen om mee te doen aan de experimentele case study in het kader van het afstudeeronderzoek ‘Self-service data-science in healthcare: using AutoML in the knowledge discovery process’, dat in de periode maart-september 2019 is uitgevoerd.