Het AI-COMPASS consortium, onder leiding van TU Delft, krijgt een financiering van NWO. Met dit geld worden real-time ondersteuningssystemen voor noodsituaties ontwikkeld, die rekening houden met context, gedrag en waarden. Het onderzoek vindt plaats in het kader van het programma Collaboration between Humans and (semi-)Autonomous systems van NWO. Het onderzoek zet expliciet in op het ontwikkelen van zogeheten mensgerichte kunstmatige intelligentie, een vorm van AI die natuurlijk ook in de gezondheidszorg buitengewoon belangrijk is.
Bij crisissituaties met grote hoeveelheden mensen, is er sprake van complexe logistiek en moeten er onder tijdsdruk grote beslissingen genomen worden. Kunstmatige intelligentie heeft een enorm potentieel om beslissingen bij crowd crises te ondersteunen, maar het toenemende gebruik van AI leidt ook tot een stevig debat over juridische en ethische kwesties. Daarom is het zo belangrijk dat er mensgerichte AI voor crisissituaties wordt ontwikkeld.
Voorspellen en begrijpen van crises
Mensgerichte AI betreft technologieën die rekening houden met menselijke waarden, ethiek, en de individuele en sociale behoeften van gebruikers. Dit betekent in crisissituaties dat kunstmatige intelligentie helpt bij het voorspellen, begrijpen en beheren van crises en daarbij volop rekening houdt met menselijke rechten, veiligheid en waardigheid. Dit omvat bijvoorbeeld het ontwikkelen van systemen die kunnen helpen bij het coördineren van evacuaties, het verstrekken van real-time informatie aan betrokkenen of het ondersteunen van hulpverleners bij het nemen van beslissingen onder hoge tijdsdruk. De technologieën zijn bedoeld om te helpen bij het voorspellen en voorkomen van menigtecrises, maar ook voor het verbeteren van een eventuele crisisresponse.
Pilots in Rotterdam en Den Haag
Volgens de onderzoekers neemt in snel groeiende Nederlandse steden het risico op crises met menigten toe. Dergelijke noodsituaties brengen de maatschappelijke veiligheid in gevaar en veroorzaken enorme economische en maatschappelijke schade. Via twee pilots in Den Haag en Rotterdam zoekt het gehonoreerde consortium oplossingen voor verschillende evenementen zoals demonstraties of drukke stranddagen.
Het voorspellen van drukte en de daarmee samenhangende risico's is volgens betrokkenen een grote wetenschappelijke en maatschappelijke uitdaging. Professor Serge Hoogendoorn van TU Delft vertelt op de website van de universiteit: “Dit is precies waar dit project een uitkomst kan bieden. We combineren onze expertises in de dynamica van mensenmassa's, geavanceerde sensortechnologie en AI. De ontwikkeling van innovatieve digitale tools om de veiligheid van mensen te optimaliseren staat hierin centraal. De tools zullen de planning en het beheer van een breed scala aan geplande én ongeplande gebeurtenissen ondersteunen, waarbij privacy wordt gewaarborgd en bias wordt vermeden.”
Professor Tina Comes van TU Delft vult aan: “Crisissen veranderen menselijk gedrag, besluitvorming - en ook de manier waarop mensen samenwerken met AI. Ik ben enthousiast dat we in dit project een stap vooruit zetten om de openbare veiligheid te verbeteren met echt op de mens gerichte AI. Ik kijk ernaar uit om samen te werken met een geweldig consortium van toegewijde belanghebbenden en partners.”
Mensgerichte AI in gezondheidszorg
De focus op mensgerichte AI, die rekening houdt met context, menselijk gedrag en waarden, is niet alleen bij crises belangrijk maar ook zeer relevant voor de gezondheidszorg. Mensgerichte AI kan onder meer worden ingezet om zorgmedewerkers te ondersteunen bij het nemen van beslissingen onder druk, het verbeteren van de patiëntenzorg of het personaliseren van behandelingen. Philips benadrukt ook al langer het belang van mensgerichte AI in de gezondheidszorg, waarbij de nadruk ligt op het samenwerken met klinische en academische partners om AI te ontwikkelen die echt waarde toevoegt aan de zorgpraktijk. Hoe sterk dit thema speelt blijkt tot slot ook uit de inzet van Amsterdam AI met het zogeheten ´AI for Health Equity Lab´. Dit laboratorium kreeg onlangs nog, in januari 2024, het belangrijke het ELSA-label (Ethical, Legal and Societal Aspects).
