We zijn zo verblind door de voordelen van technologische innovaties, dat we de gevaren die ze vormen over het hoofd zien. Dat betoogt prof. Harold Thimbleby in zijn boek ‘FIX IT.’ Hoe is digitale gezondheid dan risicovoller dan we dachten? En wat kunnen we doen om die risico’s te beperken? ICT&health sprak uitgebreid met de hoogleraar informtica aan de Swansea University in Wales.
Digitale gezondheid biedt kansen voor een betere verdeling van zorg, een hogere kwaliteit van zorg en een grotere rol voor de preventie van chronische ziekten. In je boek beweer je echter dat digitale gezondheid riskant is. Waar komt dit standpunt vandaan?
“Mijn interesse in digitale zorg begon toen een van mijn studenten op de intensive care belandde. Ik zag enkele waarschuwingen op een van de infuuspompen en besloot er een te kopen met een onderzoeksbeurs die ik destijds had.”
“Als hoogleraar informatica was ik geschokt door de lage kwaliteit van de infuuspomp, maar misschien had ik het klinische gebruik ervan verkeerd begrepen. Dus ik sprak met een anesthesist, ging een paar dagen undercover, schrobde me op en hielp bij verschillende operaties.”
“Bij alle operaties ging er iets digitaal mis. De bekwame teams herstelden zich hiervan, maar er hadden in de eerste plaats nooit problemen mogen zijn. Op een dag crashte bijvoorbeeld een beademingsapparaat en moest opnieuw worden opgestart.”
Aan het begin van het boek schrijf je: "De gezondheidszorg wordt tegengehouden omdat we de computerbugs niet zien en we begrijpen de risico's die ze veroorzaken niet." Of hebben we gewoon geen beter alternatief en moeten fouten in de digitale zorg als 'aanvaardbaar risico' worden meegerekend?
“Het is interessant dat eenzelfde opmerking voor een ander gebied met verbazing zou worden ontvangen: ‘Kernenergie wordt tegengehouden omdat we de computerbugs niet zien en we begrijpen de risico's die daardoor worden veroorzaakt niet.’ En dan te bedenken dat er in de nucleaire sector veel minder mensen zijn overleden aan softwarefouten dan in de gezondheidszorg. De zorg is een onnodig gevaarlijke plek.”
Je hebt een interessante 'cat thinking'-theorie ontwikkeld: mensen voelen zich zo aangetrokken tot digitale innovaties dat we blind zijn voor hun risico's. Is dat ook zo in de zorg, waar ik soms een tegenovergestelde indruk heb: de zorg is een sterk gereguleerde en conservatieve sector en loopt daardoor achter op de digitalisering in andere sectoren.
“Mijn ervaring is dat de regulering van conventionele gezondheidszorg - zoals geneesmiddelenonderzoek - in de gezondheidszorg streng is, maar dat de gezondheidszorg nauwelijks aandacht besteedt aan veilige digitale oplossingen omdat 'digitaal' wordt gezien als een redder.”
“Ik begin mijn betoog over ‘katten-denken’ met een verhaal over mijn eigen kat - hoe zijn gespin hormonen vrijmaakt zodat we ons gelukkig voelen. Als we ons eenmaal gelukkig voelen vanwege hormonen, is rigoureus denken niet meer relevant. Veel digitaals is ontworpen om ons gelukkig te maken. We willen het daarom kopen, dus verkoopt het goed – in plaats van dat het goed werkt en dus veilig is.”
Kun je dan enkele voorbeelden geven van de risico's van de digitalisering van ziekenhuizen?
“Mijn boek benoemt 73 verpleegsters die gestraft werden omdat ze allemaal dezelfde fout maakten. Het bleek een computerprobleem te zijn. Ik bespreek ook Olivia Saldana, die vanwege computerbugs in de gevangenis zit voor doodslag. En Kimberley Hiatt die zelfmoord pleegde na een rekenfout. En nog veel meer verhalen.”
Je stelt dat digitale gezondheid vaak verkeerd wordt toegepast. Wat bedoel je daarmee?
“Opwinding over AI is misschien een goed voorbeeld. AI kan natuurlijk werken, maar het is geen wondermiddel. Een voorbeeld is van een bedrijf dat een AI-toepassing aan een ziekenhuis aanbood, hun data overnam om met die toepassing te verwerken en vervolgens overgenomen werd. Het nieuwe bedrijf had de oorspronkelijke dataovereenkomst niet ondertekend en alle patiëntgegevens gingen verloren.”
Waar komen de belangrijkste risico's vandaan en: kunnen ze worden voorkomen, ervan uitgaande dat we ons nog maar in de beginfase van de digitalisering van de zorg bevinden en dergelijke risico's bijna inherent zijn aan de ontwikkeling van nieuwe technologieën? Bovendien zijn de tot nu toe gebruikte alternatieve ‘analoge’ interventies ook niet helemaal veilig.
“Slechte regelgeving is het belangrijkste probleem. Fabrikanten en ontwikkelaars hoeven in geen enkele zin van het woord competent te zijn, en dat zijn ze ook niet. In de meeste landen is het illegaal om een auto op de weg te hebben als deze niet de juiste veiligheidstests heeft doorstaan, hetzij tijdens de fabricage, hetzij periodiek daarna (elk jaar in het VK). Er is geen equivalent voor digitale zorg, en het is onveilig omdat niemand het controleert!”
Je wijdt het laatste deel van het boek aan een 'betere toekomst'. Wat is de daadwerkelijke digitale belofte en wat moet er gebeuren om deze zo snel mogelijk waar te maken?
“Natuurlijk is digitaal geweldig en doet het geweldige dingen. Maar de vaardigheden die Apple bijvoorbeeld toepast om iPhones uniek te maken, zijn 10.000 keer geavanceerder dan de vaardigheden waartoe typische digitale gezondheidszorgbedrijven (laat staan ziekenhuizen) toegang hebben. Concreet voorbeeld: een app die ik in het boek bespreek, had een studentprogrammeur. Apple heeft meer dan 1.000 mensen die QA doen in slechts een van hun vele gebouwen op een van hun vele campussen.”
Ben je niet bang dat het boek koren wordt op de molen van de sceptici van digitalisering en tegelijkertijd door de aanhangers als bevooroordeeld worden genegeerd?
“Het boek staat vol met menselijke verhalen en de verhalen zijn allemaal zorgvuldig gedocumenteerd. Natuurlijk is het bevooroordeeld omdat de meeste verhalen rampen zijn. Maar als je elders 'succes'-verhalen over digitaal leest, is er heel weinig bewijs dat ze echt succesvol zijn - het is bijna allemaal triomf van hoop en beloften over bewijs.”
