‘De mensachtige Sophia is een PR-stunt’

Recente ontwikkelingen op het gebied van AI stellen robots in staat om nieuwe vaardigheden op te doen. Maar kunnen ze voor patiënten zorgen zoals mensen dat doen? Op de re:publica 2024 spraken we hierover met Dr. Katharina Weitz, een psycholoog en computerwetenschapper die verklaarbare en mensgerichte AI onderzoekt aan het Fraunhofer Instituut voor Telecommunicatie in Berlijn.

Als mensen met ChatGPT praten, doen ze dat net als bij mensen. Betekent dit dat we machines als mensen moeten gaan behandelen?

“We ontdekten in onderzoeken dat mensen uitleg van een AI-systeem meer vertrouwen wanneer deze systemen op een natuurlijke, mensachtige manier met ons communiceren, bijvoorbeeld met behulp van tekst, spraak of een virtuele weergave. Bovendien, hoe menselijker een AI-systeem lijkt, hoe meer we aannemen dat het mensachtige intelligentie heeft.“ 

“Gerenomeerde onderzoekers zoals Kate Darling en Ben Shneiderman benadrukken dat we AI-systemen niet als mensen moeten ontwerpen, maar als gereedschappen, aangezien AI-systemen geen mensen zijn. Daar moeten we heel duidelijk over zijn.“

In 1966 creëerde Joseph Weizenbaum de eerste chatbot, Eliza. Patiënten die met Eliza omgingen, meldden dat ze er behoefte hadden aan een empathische therapeut. In 2024 is de technologie veel verder ontwikkeld. Welke technologieën worden gebruikt om gevoelens en emoties te creëren bij chatbots bijvoorbeeld?

“AI-systemen kunnen geen emoties voelen. We worden echter steeds beter in het aanleren van AI-systemen om emotionele reacties waar te nemen en te imiteren, met name de classificatie van emotionele gezichtsuitdrukkingen. Hiervoor gebruiken we Deep Neural Networks die zijn getraind op duizenden afbeeldingen van mensen met verschillende gezichtsuitdrukkingen om te leren hoe een ‘blij’ of ‘verdrietig’ gezicht eruit ziet.”

“We kunnen deze getrainde AI-systemen vervolgens in realtime gebruiken om de emotionele expressie van een persoon te detecteren. Het werkt redelijk, maar alleen als de persoon zijn werkelijke gevoel uitdrukt. Als iemand in een sollicitatiegesprek een vraag krijgt die hem ongemakkelijk maakt, blijft hij/zij nog steeds vriendelijk gedrag vertonen om ware gevoelens te verbergen. Het AI-systeem dat is getraind op het classificeren van gezichtsopnamen, zou de persoon nog steeds als 'gelukkig' classificeren. Mensen daarentegen zouden de reactie in de context kunnen plaatsen en begrijpen dat de persoon zich ongelukkig voelt, zelfs als ze glimlachen.”

Kunt u enkele voorbeelden geven van slimme robots?

“Sommige robots zijn meer verwant aan dierlijk gedrag en reacties, zoals Paro, die eruitziet als een witte zeehondenspeeltje. Hij reageert op zijn stem bij het uitspreken van zijn naam, aait, beweegt zijn hoofd en benen en maakt geluiden.”

“Navel is een zeer gezichtsexpressieve robot die verschillende emotionele toestanden kan uitdrukken. In tegenstelling tot Paro is Navel ontworpen om meer op mensen te lijken, met bijvoorbeeld een gezicht met ogen, wenkbrauwen en een mond. Robots zoals Sophia zijn nog menselijker. De ontwikkelaars probeerden Sophia zo mensachtig mogelijk te ontwerpen." 

Wat betekent ‘mensgerichte machines’ voor u?

“Als onderzoeker vond ik definities nuttig om kort het doel of de focus van een term te formuleren. Voor mensgerichte AI hou ik van die van Mark Riedl aan, die zegt: ‘Mensgerichte kunstmatige intelligentie is een perspectief op AI en ML  (Machine Learning, red.) dat algoritmen moeten worden ontworpen met het besef dat ze deel uitmaken van een groter systeem van mensen.‘

“Voor mij is het essentieel om AI te ontwerpen met mensen in gedachten: degenen die de AI-systemen gebruiken en degenen die worden beïnvloed door de beslissingen van dergelijke systemen.“

De gezondheidszorg heeft een personeelsprobleem. Kunnen robots een oplossing bieden?

“Nee, in ieder geval niet in de huidige staat van ontwikkeling. Het onderzoek schiet flink op en ChatGPT helpt bijvoorbeeld om robots beter en uitgebreider inzetbaar te maken voor gesprekken. Ze moeten echter nog veel leren om in de praktijk echt voordeel te bieden.”

"Het is de mens, niet de robot, die het laatste woord moet hebben"

“Zorgen voor mensen is een complexe taak die een robot momenteel niet aan kan - en het is de vraag of dat zou moeten. Misschien kunnen ze worden gebruikt voor kleinere taken, zoals koeriersdiensten, om de werkdruk van het personeel van zorgaanbieders te verminderen. Zelfs dat kan een zeer uitdagende taak zijn voor een robot. Ik hoorde onlangs een voorbeeld van een robot die was ontworpen om mensen drankjes te brengen, maar die faalde toen een deur gesloten was omdat hij niet was getraind om deuren te openen. Zelfs eenvoudige menselijke taken zoals ‘een fles water meenemen’ zijn nog steeds een uitdaging voor robots in een veranderende omgeving.“

Recente rapporten suggereren dat een derde van de bevolking zich eenzaam voelt. Wat kan een robot hierin betekenen?

“Sommige robots worden hiervoor al gebruikt, zoals robot Parlo uit Japan. Die is in staat om ruim 300 spellen te spelen en is ontworpen om het welzijn van zijn gebruikers te ‘bewaken’ en te ondersteunen. Robots zijn vergelijkbaar met huisdieren: ze kunnen goed luisteren en gebruikers motiveren om actiever te zijn. Maar ze kunnen menselijke relaties niet vervangen.“

Waar ligt dan de grens tussen een gezonde benadering van machines en een problematische relatie met robots?

“Robots kunnen geweldige metgezellen zijn. Onderzoek toont aan dat we een relatie kunnen opbouwen met robots, zelfs als ze er niet menselijk of dierlijk uitzien. Ik denk echter dat de grenzen tussen een gezonde en problematische relatie met robots vaag zijn. Het is normaal om een verbinding met de robot te voelen, maar te veel op de robot vertrouwen kan gevaarlijk zijn. Zoals het niet herkennen van waarschuwingssignalen wanneer dingen problematisch worden. Of wanneer een persoon hulp nodig heeft. Deze kenmerken kunnen worden gebaseerd op indicatoren die ook voor andere soorten stoornissen worden gebruikt. Bijvoorbeeld: is het niveau van lijden van de persoon zo hoog dat hij het niet zelf kan oplossen? Beperkt de persoon zichzelf zo veel dat hij het dagelijks leven niet meer aankan?“

Soms lijkt deze grens al overschreden: in oktober 2017 ontving Sophia Robot het Saoedi-Arabische staatsburgerschap. Is dit de toekomst, een promotiegrap of iets griezeligs?

“Laten we eens kijken wat er sindsdien is veranderd. Zijn robots sindsdien lid van onze samenleving? Hebben robots nog meer burgerschap gekregen? Wat is er sindsdien veranderd in de ontwikkeling van robots? Niet veel. Zulke acties zijn een succesvolle PR-stunt die geweldig is om over te rapporteren en mogelijke implicaties te bespreken. Ik wil echter niet te veel aandacht besteden aan deze momenten, omdat ze de neiging hebben om af te leiden van de werkelijke problemen die we nu met robots hebben.” 

"En dan bedoel ik enerzijds technische uitdagingen, maar anderzijds ook sociale: hoe kunnen we robots technisch verbeteren zodat ze taken kunnen waarnemen? Hoe gaan we om met de energie en middelen die nodig zijn om op AI-gebaseerde robots te ontwikkelen? Wat moet een robot kunnen zodat mensen er beter van worden? Hoe kunnen we gegevensbescherming garanderen, vooral wanneer kwetsbare groepen er gebruik van maken?“

Tesla, NVIDIA, Huawei: bijna elk groot technologiebedrijf bouwt nu robots. Hoe zal dagelijks gebruik de zorg veranderen, en de samenleving?

“Het zál veranderen, net als andere gebieden waar we nu AI-systemen gebruiken. ChatGPT, gelanceerd in november 2022, is een uitstekend voorbeeld. Aanvankelijk was er veel fascinatie voor de mogelijkheden van het systeem en de angst dat veel banen overbodig zouden worden. Twee jaar later hebben we ons aangepast aan ChatGPT: er zijn workshops, lezingen, boeken en websites over hoe je ChatGPT het meest efficiënt kunt gebruiken. Dit systeem maakt nu deel uit van onze technische wereld en is niet meer weg te denken.”

“De vraag is: wat zijn de beperkingen en hoe kan ik AI meest nuttig gebruiken? Dit geldt ook voor robots. Hoewel we robots hebben die gemakkelijk kunnen worden gebruikt, zoals we tegenwoordig ChatGPT gebruiken, gaat de vraag meer over het volgende: wat zijn de beperkingen van de robot en wat zijn geschikte taken voor de robot zodat ik er het meeste van kan profiteren?”

“De samenleving zal zeker veranderen, zodra specifieke taken worden verdeeld over robots terwijl wij tijd hebben voor andere dingen om te doen. Dit leidt tot de vraag: waar willen we onze tijd voor gebruiken? Voor andere taken? Meer tijd voor onszelf?“

Waar bent u het meest bang voor als u kijkt naar de huidige robotica-ontwikkelingen?

"Het is niet de ontwikkeling van de robot zelf die me bang maakt; Het is meer het perspectief en de doelen van de ontwikkelaars. Zoals met elke technologie, kun je er baat bij hebben of er last van hebben. Wij, individuen, de samenleving en de politiek – moeten ervoor zorgen dat sociale waarden en regels in deze robots worden vertegenwoordigd. Een daarvan is om mensen op de hoogte te houden. Het is de mens, niet de robot, die het laatste woord moet hebben. Niet alles wat AI en robotica mogelijk maken, mág worden gedaan!"