Kunnen AI-gestuurde gezondheidsbots de communicatiekloof tussen patiënten en artsen overbruggen? We spreken hierover met met Irad Deutsch, medeoprichter en CTO van Belong, een bedrijf dat Dave heeft ontwikkeld: een real-time 'conversational' AI-oncologiecoach.
Hoe gaat Dave te werk?
Irad Deutsch: “Dave is een mijlpaal in onze reis om een revolutie teweeg te brengen in de gezondheidszorgsector. Dave biedt onmiddellijk slimme, gepersonaliseerde en toegankelijke informatie, die de kwaliteit van de zorg en het leven van miljoenen patiënten wereldwijd aanzienlijk kan verbeteren.”
“Dave werd getraind in bedrijfseigen datasets met unieke geanonimiseerde patiënt-tot-arts- en patiënt-tot-patiënt-interacties, geanonimiseerde medische documenten en PRO's, die werden verzameld uit de Beating Cancer Together-app van Belong, een sociaal en professioneel netwerk voor kankerpatiënten. Gedurende zeven jaar hebben deze afzonderlijke datasets miljarden datapunten gegenereerd die werden gebruikt als trainingsset om Dave te ontwikkelen tot een oncologiementor, waarbij nauwkeurigheid wordt gecombineerd met verantwoordelijkheid.”
“Om Dave neer te zetten als oplossing op gezondheidszorgniveau hebben we een aanpak ontwikkeld die bekend staat als ARCH. Dit is een afkorting die de vier fundamentele uitdagingen vertegenwoordigt die een generatief AI-platform moet aanpakken om gereed te zijn voor toepassingen in de gezondheidszorg: nauwkeurigheid, verantwoordelijkheid, compliance en hallucinaties.”
Juist, hallucinaties vormen het grootste gevaar van het gebruik van LLM (large language models) in de geneeskunde.
“Om hallucinaties1 te verminderen en nauwkeurigheidsproblemen effectief aan te pakken, wordt Dave aangedreven door verschillende LLM-engines die samenwerken via een eigen LLM-multiplexer. Bovendien is er een extra ‘Responsible AI’-laag toegepast bovenop de architectuur van Dave, waarbij gebruik wordt gemaakt van een reeks interne algoritmen. Deze laag zorgt ervoor dat wordt voldaan aan de strenge regelgeving en veiligheidseisen die essentieel zijn in de gezondheidszorg, waardoor Dave de status krijgt van een generatief AI-platform van gezondheidszorgkwaliteit.”
Dave heeft een lange herinnering aan eerdere correspondentie, waardoor deze zich onderscheidt van klassieke generatieve AI-tools. Hoe persoonlijk zijn de prestaties in de loop van de tijd?
“Dit vormde inderdaad een aanzienlijke uitdaging: hoe kon je een gesprek voeren dat het hele traject van de patiënt omvat, dat bestaat uit talloze datapunten, en hoe kun je ervoor zorgen dat Dave consistent nauwkeurige antwoorden geeft, rekening houdend met de volledige patiëntgeschiedenis en het volledige traject.”
“In tegenstelling tot de meeste gesprekken met gewone, openbaar beschikbare en generieke generatieve AI-oplossingen zoals ChatGPT en Bard, brengen interacties met Dave vaak honderden vervolggesprekken met zich mee over langere perioden, die soms maanden bestrijken. Dit unieke kenmerk bevordert een ‘intieme’ relatie tussen gebruikers en Dave, omdat zij ervaren dat Dave hen al kent. Bijgevolg hoeven gebruikers zichzelf en hun zorgen niet herhaaldelijk opnieuw voor te stellen telkens wanneer ze een gesprek beginnen.”
“Om deze uitdaging aan te gaan, hebben we een schaalbaar mechanisme ontwikkeld dat interne ‘Context’ wordt genoemd. Dit mechanisme verdeelt lange gesprekken in kleinere, verteerbare segmenten, waardoor onze LLM aanzienlijke hoeveelheden gegevens kan verwerken bij het reageren op vragen. Ook hebben we geïnvesteerd in ‘Contexttagging’. Met deze functie kan Dave alleen verwijzen naar specifieke en relevante delen van de patiëntgeschiedenis bij het formuleren van antwoorden, waardoor de hoeveelheid gegevens die moet worden geanalyseerd wordt verminderd, waardoor efficiëntere en contextueel relevante interacties worden gegarandeerd.”
Overweegt u om Dave in de toekomst te integreren met EPD’s, zodat de bot bij- voorbeeld vragen over laboratoriumresultaten kan beantwoorden?
“Dave integreren met EPD's is iets waar we aan werken. We zijn momenteel in gesprek met relevante partijen over dit onderwerp. Bovendien geeft Dave al uitleg bij de laboratoriumuitslagen. Gebruikers hebben de mogelijkheid om verschillende soorten medische documenten te uploaden, zoals documenten met laboratoriumresultaten, beeldvormingsrapporten (waaronder CT, PET en röntgenfoto's), rapporten over genomische sequencing en samenvattingen van doktersbezoeken, en Dave zal deze afhandelen. In eerste instantie zal Dave ter verificatie het documenttype identificeren. Vervolgens wordt in eenvoudige taal een vereenvoudigde uitleg van de inhoud van het document gegeven. Daarna zal Dave eventuele specifieke vragen over het document beantwoorden.”
“Ook kan Dave afbeeldingen van documenten en pdf's beheren. Als een gebruiker een foto van een medisch dossier maakt, verbetert Dave de afbeelding en past OCR (Optical Character Recognition) toe om de tekstinhoud te extraheren. Deze functionaliteit levert aanzienlijke waarde op voor patiënten die rapporten ontvangen die zij moeilijk te begrijpen vinden en die stress veroorzaken. Binnen enkele seconden kan Dave de informatie vereenvoudigen en antwoorden geven op gerelateerde vragen, wat de onzekerheid en angst bij patiënten vermindert.”
Wat is de feedback tot nu toe? Zijn kankerpatiënten klaar voor zo'n compleet nieuw ondersteuningsmodel? Wat zijn zaken die verbeterd kunnen worden?
“Dave is al toegankelijk voor een gebruikersbestand van 500.000 personen, en we werken aan uitbreiding van ons bereik. De feedback die we hebben ontvangen, is overweldigend positief. De betrokkenheid bij Dave is duidelijk gegroeid nu steeds meer mensen de waarde ontdekken van zijn nauwkeurige antwoorden, onmiddellijke beschikbaarheid, meelevende interacties en informatieve antwoorden.”
Het begeleiden van kankerpatiënten vergt veel empathie. Hoe heeft u deze uitdaging aangepakt?
“Dit is een fundamenteel aspect van Dave’s karakter. We hebben Dave uitgerust met het vermogen om empathie te uiten als een integraal onderdeel van zijn communicatieve vaardigheden. Kankerpatiënten bevinden zich in een uiterst delicate fase van hun leven en hebben daarom een unieke aanpak nodig. Het is niet voldoende om hen alleen maar informatie te verstrekken: Dave blinkt uit in het overbruggen van deze kloof door de feiten over te brengen en tegelijkertijd de positieve aspecten te benadrukken waar mogelijk.”
“Het vereist ook het evenwicht bewaren tussen informatief, empathisch en eerlijk zijn, en tegelijkertijd oppassen dat je geen ongegronde hoop geeft. Een onderscheid van Dave ligt daar: in het vasthouden aan op feiten gebaseerde informatie en het niet bieden van valse hoop.”
"Elk jaar wordt er een toenemend aantal kankerdiagnoses gesteld"
“Feiten kunnen echter op verschillende manieren worden overgebracht. Een vaak gestelde vraag is bijvoorbeeld: ‘Dave, wat zijn mijn kansen?’ Eén benadering houdt in dat patiënten ruwe statistische cijfers worden gepresenteerd en dat ze de informatie kunnen absorberen. Als alternatief kiest Dave ervoor om de statistieken te delen en tegelijkertijd de factoren die aan deze cijfers ten grondslag liggen te verduidelijken. Hij benadrukt dat statistieken zijn opgebouwd uit een breed spectrum van patiëntresultaten en waarschuwt ervoor om niet aan te nemen dat deze statistieken altijd van toepassing zijn op iemands individuele omstandigheden.”
Wat zijn de grootste hiaten in de kankerzorg, en zullen baanbrekende technologieën deze kunnen overbruggen?
“De belangrijkste uitdaging waarmee we worden geconfronteerd, is de beperking van de tijd. Elk jaar wordt er een toenemend aantal kankerdiagnoses gesteld, en het beschikbare medische personeel is onvoldoende om deze toestroom te beheersen. Generatieve AI-oplossingen, zoals Dave, hebben het potentieel om dit probleem aan te pakken door talloze routinetaken en -processen te automatiseren, waardoor professionals in de gezondheidszorg zich kunnen concentreren op de meest cruciale aspecten van de patiëntenzorg.”
“Deze AI-oplossingen kunnen verschillende taken aan, waaronder patiëntenvoorlichting, waarbij patiënten vaak talloze vragen hebben bij het begrijpen van het besluitvormingsproces, behandelprotocollen en meer. Ze kunnen de communicatie van medische informatie aan patiënten vereenvoudigen, de planning van afspraken stroomlijnen, waarschuwingen genereren en vele andere essentiële functies op medisch gebied uitvoeren.”
Hoe ziet u de rol van tools als Dave in de toekomst?
“Onze visie bij Belong is dat over nog een jaar of twee elke patiënt aan zijn gezondheidstraject zal beginnen met de hulp van een professionele AI-mentor zoals Dave. Ziekenhuizen en zorgverzekeraars zullen het ook ondersteunen omdat oplossingen zoals die van Dave het begrip en de communicatie aanzienlijk verbeteren, patiënten kalm en zelfverzekerd houden, de kwaliteit van leven verbeteren en betere behandelresultaten mogelijk maken.”
Referentie
- Een AI-hallucinatie betreft een zelfverzekerde reactie van een AI-toepassing zoals ChatGPT of Bard die niet gegrond is in de data waarmee de toepassing getraind is. Zie ook: Link
