De Wereldgezondheidsorganisatie (WHO) heeft gedetailleerde richtlijnen gepubliceerd over de ethiek en het beheer van grote multi-modale modellen (LMM's), een snel evoluerend type generatieve kunstmatige intelligentie (AI). Deze richtlijnen zijn essentieel voor diverse belanghebbenden, zoals overheden, technologiebedrijven en zorgverleners.
AI heeft veel potentie om de zorg te verbeteren. Zo kan kunstmatige intelligentie ingezet worden om klinische beslissingen te ondersteunen of de zorgmedewerker te ontlasten door te helpen bij de administratie. Het gebrek aan richtlijnen voor ontwikkeling of toepassing van medische AI beperkt het gebruik ervan echter. Met de komst van nieuwe wet- en regelgeving en veel (in)formele richtlijnen lijkt een nieuw tijdperk aangebroken voor de medische AI-regulering. Een groep Nederlandse medische onderzoekers heeft daarom een overzicht en samenvatting gemaakt van al gepubliceerde richtlijnen.
Vijf brede toepassingen LLM’s
En nu is er dus een update van de internationale richtlijnen van WHO specifiek voor voor LLM’s gepubliceerd. Die richtlijnen bieden met meer dan 40 aanbevelingen een uitgebreid kader. Deze richten zich op de veelzijdige aard van LMM's, die diverse soorten gegevens, zoals tekst, video's en afbeeldingen, kunnen verwerken en verschillende soorten output kunnen produceren. Deze veelzijdigheid vereist zorgvuldig beleid om misbruik en verkeerde interpretatie van gegevens te voorkomen.
De richtlijnen schetsen vijf brede toepassingen van LMM's in de gezondheidszorg:
- Diagnose en klinische zorg, zoals chatbots die reageren op patiëntenvragen.
- Gebruik van AI voor het onderzoeken van symptomen en behandelingen.
- Administratieve taken die kunstmatige intelligentie doet, inclusief documentatie in elektronische gezondheidsdossiers.
- Medische en verpleegkundige opleidingen via gesimuleerde patiëntontmoetingen
- Wetenschappelijk onderzoek met AI, waaronder geneesmiddelenontwikkeling.
Risico’s van LLM’s
Hoewel de potentie van LMM’s voor de zorgtransformatie wordt erkend, behandelen de richtlijnen ook de risico's van het genereren van valse, onnauwkeurige, bevooroordeelde of onvolledige verklaringen. Dat is vooral aan de orde als modellen zijn getraind met gegevens van slechte kwaliteit of met vooringenomen standpunten. Bovendien waarschuwen de richtlijnen voor cybersecurityrisico's, die patiëntgegevens en de betrouwbaarheid van AI-systemen in de gezondheidszorg kunnen ondermijnen.
De WHO pleit ervoor om een brede groep belanghebbenden te betrekken bij het ontwikkelen van AI. Denk onder meer aan overheden, technologiebedrijven, zorgaanbieders, patiënten en het maatschappelijk middenveld. Deze samenwerking is volgens de organisatie essentieel in alle stadia van ontwikkeling, implementatie en regelgeving van AI-technologieën. Concrete aanbevelingen voor de overheid zijn:
- Het bieden van infrastructuur die AI-ontwikkeling ondersteunt, met de naleving van ethische normen.
- Het invoeren van wetten, beleid en regelgeving om LMM's in lijn te brengen met ethische verplichtingen en mensenrechtennormen.
- Het oprichten van regelgevende instanties voor het beoordelen en goedkeuren van LMM's in de gezondheidszorg.
Richtlijnen voor ontwikkelaars WHO
Voor ontwikkelaars bevelen de richtlijnen aan om een diverse groep belanghebbenden vroeg in het AI-ontwikkelingsproces te betrekken. Tevens is het belangrijk om LMM's te ontwerpen om taken uit te voeren met de nodige nauwkeurigheid en betrouwbaarheid. Ontwikkelaars moeten ook in staat zijn om potentiële secundaire uitkomsten van hun modellen te voorspellen en te begrijpen.
De richtlijnen van de WHO, een update van hun publicatie uit 2021, zijn weer een belangrijke stap in het aanpakken van de ethische uitdagingen die AI in de gezondheidszorg met zich meebrengt. Met het vaststellen van deze richtlijnen draagt de WHO niet alleen bij aan de vooruitgang van de gezondheidstechnologie, maar zorgt er ook voor dat deze vooruitgang plaatsvindt binnen een duidelijk ethisch kader.
Meer hierover ontdekt u van 14-16 mei tijdens de ICT&health World Conference in Maastricht.
