Het Erasmuc MC en de TU Delft hebben het naar eigen zeggen eerste ethieklab ter wereld op het gebied van AI in de zorg geopend. Het Responsible and Ethical AI in Healthcare Lab (REAiHL) wil ervoor zorgen dat kunstmatige intelligentie veilig ingezet kan worden in de patiëntenzorg. Verpleegkundigen, artsen, datascientists, dataengineers en ethici werken hier straks voor samen vanuit het Erasmus MC, TU Delft en de Erasmus Universiteit.
Initiatiefnemer Michel van Genderen, internist-intensivist van het Erasmus MC, stelt in een nieuwsbericht van het Erasmus MC dat de coronapandemie de zorgsector geconfronteerd heeft met de tekorten aan verpleegkundigen in de ziekenhuizen en de hele zorgketen. Dit heeft de IC-afdeling van het Erasmus MC duidelijk gemaakt dat de zorg anders ingericht moet gaan worden. Reden om in 2022 te beginnen met het Datahub-initiatief voor de ontwikkeling van AI-modellen die straks zorgprofessionals moeten ondersteunen en ontlasten. De standplaats van het ethieklab is ook de DataHub van het Erasmus MC.
Voordelen van AI in zorg
Van Genderen hoopt dat AI-toepassingen aan de hand van data en computermodellen behandeluitkomsten van patiënten kunnen voorspellen en het zorgsysteem efficiënter kunnen inrichten. “De zorgmedewerker krijgt zo meer tijd om aan de patiënt te besteden en dat zorgt er uiteindelijk voor dat mensen niet uit de zorg vertrekken, maar juist in de zorg blijven”, aldus Van Genderen.
Software-aanbieder SAS ondersteunt het initiatief door het sponseren van PhD’er. Vijf promovendi kunnen daarmee ingezet worden binnen REAiHL. SAS legt de focus op het ontwikkelen en vooral implementeren van AI. Het verankeren van het ethische aspect van AI in technologie maakt een belangrijk onderdeel van uit.
Voldoen aan ethische principes
Van Genderen benadrukt dat het Erasmus MC AI-ontwikkelingen wil omarmen, maar tegelijkertijd dat kunstmatige intelligentie uitlegbaar is en voldoet aan alle relevante ethische principes. De komende drie tot vijf jaar moet REAiHL helpen om duidelijk te krijgen of AI-toepassingen werkelijk kunnen helpen bij het bepalen van zaken zoals of verder behandelen op de IC zinvol is of niet bij een bepaalde patiënt. “Soms hebben wij het gevoel dat de laatste inzichten ontbreken, dus willen we weten of data en AI ons hierbij kunnen helpen.”
Mede-initiatiefnemer Diederik Gommers, hoofd IC van het Erasmus-MC, stelt dat de zorgpraktijk veel behoefte heeft aan ethische AI principes. Hij schetst dat op het moment minder dan twee procent van alle AI-studies de klinische praktijk haalt, juist mede omdat het ontbreekt aan een ethisch raamwerk. Uit studies blijkt volgens Gommers dat 77 procent van de IC-verpleegkundigen klaar is voor AI, maar dat er ook veel vragen zijn en er onzekerheid is. “Dat komt bijvoorbeeld omdat er onduidelijkheid over de verantwoordelijkheid is. Wij hopen dat het ethieklab daarin rust zal brengen.”
Nastreven van gelijkheid
Van de zes ethiekprincipes die de World Health Organisation (WHO) heeft opgesteld voor AI in de zorg, is volgens Van Genderen nastreven van gelijkheid een van de belangrijkste. In de data die wordt gebruikt om AI-modellen te ontwikkelen, zit vaak al bias, bijvoorbeeld om dat er onevenredig veel mannen in een studie zijn meegenomen. “Het is belangrijk om hiervan bewust te zijn en ernaar toe te werken dat AI modellen op iedereen even goed van toepassing is.”
Het National Innovation Center for Artificial Intelligence (ICAI) heeft de REAiHL erkend als officieel lab. Een ICAI-lab is een onderzoekssamenwerking tussen industriële, overheids- of non-profit-partners en kennisinstituten. ICAI-labs moeten voldoen aan eisen voor data, expertise en capaciteit. Er wordt van ze verwacht dat de uitkomsten geoperationaliseerd worden voor de echte wereld.
