Bij het reguleren van digitale technologieën zoals AI en algoritmen wordt meestal gefocust op de techniek zelf. De complexe aard van de mens wordt volgens prof. dr. Esther Keymolen op dit moment echter onvoldoende meegenomen. Ze stelt dat effectieve regulering rekening moet houden met de onvoorspelbaarheid van mensen. Ofwel: voor het goed reguleren van technologie is een realistisch en positief mensbeeld nodig.
Keymolen aanvaardt vandaag (19 april) de leerstoel Regulering van digitale technologie aan Tilburg University. In haar werk richt zij zich op de ethische en filosofische vragen van technologie-regulering. Ze heeft in het bijzonder oog voor de ethische en filosofische uitdagingen die komen kijken bij de implementatie van snel ontwikkelende technologie zoals AI.
AI in de zorg
Die ontwikkeling speelt in vrijwel alle sectoren en natuurlijk óók in de zorg. Hier wordt AI steeds vaker ingezet voor ondersteuning bij diagnostiek, logistiek, administratie en voor preventie. Ethische en filosofische vragen rond het gebruik van dit soort technologie zijn in de zorg extra belangrijk, omdat het hier over privacygevoelige thema’s gaat.
Bij de regulering van digitale technologie, zoals generatieve AI en algoritmen, gaat het volgens de Tilburgse professor meestal over de technologie en niet zozeer over de mens die ermee omgaat. Er wordt in ieder geval meestal niet gewerkt met een realistisch mensbeeld. Prof. dr. Esther Keymolen legt uit: “We moeten ervan uitgaan dat de mens nooit helemaal voorspelbaar is, anders wordt de regulering nooit effectief.
Digitale technologie
Digitale technologie doordrenkt ons leven steeds meer: social media, navigatiesystemen, ChatGPT en vele andere toepassingen zijn gemeengoed geworden. Met nieuwe wet- en regelgeving worden onze data in deze systemen zo goed mogelijk beschermd en de risico’s die kleven aan deze nieuwe technologieën zo veel mogelijk beperkt.
Hierbij kun je onder meer denken aan de AVG, de AI Verordening en de Ethische Richtsnoeren voor Betrouwbare AI. Naast deze generieke regelingen zijn er ook diverse lokale initiatieven om kunstmatige intelligentie te reguleren. Een goed voorbeeld is het streven van Erasmus MC om een ethieklab op te zetten. Hierbij wordt samengewerkt met de TU Delft, die trouwens al een eigen digitaal ethiekcentrum heeft.
Vier soorten gebruikers
Met de mens wordt bij al deze regulering natuurlijk wel al degelijk rekening gehouden. Maar volgens Keymolen is die aanpak nog niet effectief, met name omdat er nog te vaak vertrokken wordt van een onjuist mensbeeld. Ze illustreert dit aan de hand van vier categorieën mensen die zich met digitale technologie bezighouden: de burger, de beroepsmatige gebruiker of ontwikkelaar, de ambtenaar en de wetenschapper.
Als burger accepteren we bijvoorbeeld cookies zonder precies te weten waar we ja op zeggen; de kleine lettertjes lezen we niet. De regelgeving gaat ervan uit dat de mens zelf de regie voert over diens data, maar die mens is een fictie.
De techniekprofessional en tech-bedrijven worden geacht technologie te ontwerpen en gebruiken volgens ethische en juridische principes, maar eenvoudig is dat niet. Wat is bijvoorbeeld eerlijke technologie? Niet al het menselijk leven kan in data en systemen worden gevangen. Soms is daarom een bredere publieke discussie of politieke beslissing meer op zijn plaats dan een technische.
Ambtenaren die met digitale technologie werken doen hun best om het goed te doen, bijvoorbeeld door te checken of algoritmes niet discrimineren. Maar afdoende is dat vaak niet – wat gebeurt er met de mensen die toch niet in een hokje passen? Hier biedt de technologie geen hapklare oplossing voor.
Voor advies wordt vervolgens naar de wetenschapper gekeken, maar die heeft ook niet overal een eenduidig antwoord op als het gaat om de inzet van technologie. De wetenschap kan verschillende scenario’s schetsen, maar er blijven altijd vragen die in de politieke arena van de democratie beantwoord moeten worden.
Positief mensbeeld
Keymolen geeft voor deze gesignaleerde problemen een duidelijke oplossingsrichting aan. Ze wil graag dat er gewerkt gaat worden met een realistischer mensbeeld. In navolging van filosoof Helmuth Plessner wil ze de mens expliciet níet zien als iemand die tekortschiet op het gebied van digitale technologie. Ze pleit voor een mensbeeld dat vertrekt vanuit creatieve, dynamisch personen die in verbinding staan met hun omgeving. Volgens dit positieve mensbeeld is de mens voortdurend bezig het leven vorm te geven, vaak met technologie, en is daar nooit klaar mee. Het is deze veranderlijkheid die de mens kenmerkt en die regulering dient te beschermen.
Ze besluit: “Daarom moeten we niet alleen investeren in het afstemmen van de technologie op de mens, wat nog steeds essentieel is maar nooit perfect. Ook moeten we oplossingen bedenken voor wanneer het mis gaat, alternatieven regelen, voorzien in checks and balances, en exit strategieën bedenken. Een pluralistische aanpak is nodig. Pas als we de onvoorspelbaarheid van de mens koesteren, zal de technologie ons dienen.”
Prof. dr. Esther Keymolen spreekt op vrijdag 19 april 2024 om 16.15 uur haar inaugurele rede uit in de aula van Tilburg University. De titel van de rede luidt: Technological Times: Looking out for the Human. De rede is ook te volgen via een livestream.
