Grote publiek heeft nog weinig vertrouwen in AI-chatbots

di 27 augustus 2024 - 07:00
AI
Nieuws

Sinds de opkomst van ChatGPT wordt meer en meer ingezet op AI-chatbots om vragen van patiënten te beantwoorden en zorgprofessionals te ontlasten. Uit een enquête van de Amerikaanse organisatie KFF blijkt nu echter dat meer dan de helft van de Amerikanen geen vertrouwen heeft in AI-chatbots in de zorg. Ze geloven niet dat de chatbots correcte medische informatie kunnen geven.

Naast chatbots die artsen assisteren zijn ook de chatbots voor patiënten in opkomst. Het gaat dan bijvoorbeeld om AI-assistenten die vragen van een patiënt kunnen beantwoorden, laboratoriumresultaten kunnen toelichten, en die suggesties kunnen doen voor hoe de levensstijl kan worden aangepast aan een specifieke ziekte, of hoe de patiënt beter voor zijn eigen gezondheid kan zorgen.

Weinig vertrouwen

Uit een Amerikaans onderzoek blijkt echter dat de meeste mensen nog niet zo overtuigd zijn van de betrouwbaarheid van AI-chatbots. Ze betwijfelen of ze feiten van fictie kunnen onderscheiden wanneer ze een chatbot medische informatie geeft. Slechts 9% van de respondenten acht zichzelf hiertoe in staat. Een derde van de respondenten had er nog enigszins vertrouwen in, maar de meerderheid denkt dit niet te kunnen.

Het mag geen verrassing heten dat jongere gebruikers zich zekerder voelen over het gebruik van AI-chatbots dan ouderen. 43% van de gebruikers in de leeftijd van 18 tot 29 jaar vertrouwde erop wel te kunnen inschatten of de gegeven informatie correct is. Onder de gebruikers van 65 jaar en ouder is was dat slechts 23%.

Gebruik neemt toe

Toch neemt het gebruik van AI-chatbots in het algemeen toe. Ongeveer een derde van de respondenten in alle leeftijdsgroepen gaf aan minimaal 1 keer per week een (al dan niet zorggerelateerde) AI-chatbot te gebruiken. De onderzoekers van KFF verwachten dat dat percentage nog verder zal stijgen naarmate AI meer wordt geïntegreerd in zoekmachines en socialmediaplatforms.

Specifiek voor medische vragen geeft ongeveer 17% van de volwassenen aan weleens een chatbot te gebruiken. Daarbij is echter slechts 5% van de volwassenen overtuigd van de correctheid van de informatie die AI-chatbots geven. 31% heeft er nog enigszins vertrouwen in, maar een aanzienlijke 56% van de gebruikers heeft weinig tot geen vertrouwen in de informatie die AI-chatbots oplepelen.

Deze bevindingen komen overeen met eerdere onderzoeken naar het gebruik van AI in de zorg door consumenten. In mei 2023 bleek uit een onderzoek van de University of Arizona Health Sciences dat ongeveer de helft van de patiënten nog niet volledig durfde te vertrouwen op AI-gebaseerde medische hulpmiddelen. Op dit vlak valt dus nog winst te behalen om het gebruik van AI door consumenten te bevorderen.

Vertrouwen cruciaal

Ten behoeve van een succesvolle introductie en implementatie van AI-toepassingen in de praktijk is het essentieel om onder (beoogde) gebruikers het vertrouwen erin en de acceptatie ervan op te bouwen. Vertrouwen wordt hierbij opgevat als het geloof van een individu dat een AI-toepassing doet wat het beoogt te doen. Acceptatie wordt hierbij opgevat als de bereidheid van een individu om een AI-toepassing te gebruiken.

Door vroegtijdig onderzoek te doen naar het vertrouwen in en de acceptatie van AI-toepassingen onder gebruikers, ontstaat inzicht in mogelijk kritische factoren waarvoor aandacht nodig is bij de introductie en/of implementatie van AI-toepassingen in de praktijk.