Search
Close this search box.
Search

AI brengt volgens het Rathenau Instituut weer nieuwe risico’s met zich mee in een snel digitaliserende wereld. In een rapport wordt geadviseerd om de Europese wetgeving omtrent kunstmatige intelligentie aan te scherpen.

Risico’s AI vragen om terughoudendheid in gebruik

De opkomst van generatieve AI-systemen versterkt bekende risico’s van digitalisering, zoals discriminatie en onveiligheid. Daarnaast brengt de technologie nieuwe risico’s met zich mee voor intellectueel eigendom en menselijke ontwikkeling. Het huidige en aangekondigde beleid moet daarom worden doorgelicht en aangescherpt. Organisaties, bedrijven en burgers moeten zich afvragen of ze generatieve AI verantwoord kunnen gebruiken. Dat concludeert het Rathenau Instituut in een begin december verschenen onderzoek.

Het Rathenau Instituut ontwikkelde de publicatie Generatieve AI op verzoek van het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Het onderzoek is gebaseerd op literatuurstudie, werksessies en interviews met deskundigen. Volgens het instituut is het een reële mogelijkheid dat het huidige en aangekondigde beleid, waaronder de aanstaande Europese AI-verordening, niet voldoende zijn om de risico’s van generatieve AI-systemen tegen te gaan.

Afgelopen woensdag, 6 december 2023, bleek tijdens een cruciale onderhandelingsronde over AI Act zelfs dat AI-bedrijven achter de schermen zelfs krachtig tegen strenge AI-regels lobbyen. Onder grote druk van Frankrijk, Duitsland en Italië dreigt de AI Act, volgens NRC, daardoor nu zelfs fors te worden afgezwakt terwijl er volgens het rapport dus juist strengere regulering nodig is.

Verantwoord gebruik

Het Rathenau Instituut beveelt beleidsmakers en politici aan om nationaal en Europees beleid door te lichten en aan te scherpen, en met de AI-verordening de mogelijkheid te creëren om risicovolle generatieve AI-systemen van de markt te halen. In de tussentijd zijn ondersteuning van toezicht, afspraken met ontwikkelaars en maatschappelijk debat nodig over de wenselijkheid van generatieve AI-systemen zoals ChatGPT, Bard en DALL-E.

“Politici en beleidsmakers moeten nu aan de slag om de risico’s van generatieve AI tegen te gaan, maar het kost tijd voordat beleid effect zal hebben”, aldus onderzoekscoördinator Linda Kool. “Tot die tijd staat iedere burger en organisatie voor de vraag of zij de technologie op dit moment verantwoord kunnen gebruiken.”

AI in gezondheidszorg

Kunstmatige intelligentie in de gezondheidszorg brengt ook de nodige risico’s met zich mee.
Amsterdam UMC en de Universiteit van Amsterdam pleitten daarom onlangs bijvoorbeeld in Nature nog voor levende richtlijnen voor AI. Ten eerste is er de uitdaging van dataprivacy en -beveiliging. AI-systemen verwerken grote hoeveelheden gevoelige patiëntgegevens, waarbij de bescherming tegen datalekken en cyberaanvallen cruciaal is.

Daarnaast bestaat het risico van bias en ongelijkheid. AI kan ongelijke zorgresultaten produceren als het getraind is met vooringenomen data, wat kan leiden tot discriminatie van bepaalde groepen. Een ander heikel punt is de kwestie van verantwoordelijkheid en aansprakelijkheid. Veel AI-toepassingen zijn complex en hun besluitvormingsprocessen zijn niet altijd duidelijk en dat is een probleem in een sector waar vertrouwen essentieel is.

Risico’s AI

De opkomst van generatieve AI-systemen versterkt en compliceert volgens de Rathenau-publicatie de bekende risico’s van digitalisering. De productie van desinformatie wordt eenvoudiger en bescherming van data wordt ingewikkelder. En terwijl het al lastig was om transparantie te verkrijgen over de werking van AI-systemen, is dat bij de complexere generatieve AI-systemen vrijwel onmogelijk.

Ook brengt generatieve AI nieuwe risico’s met zich mee, zoals voor de bescherming van intellectueel eigendom. De invloed van enkele grote technologiebedrijven was al groot in maatschappelijke domeinen als de zorg of het onderwijs, maar breidt zich verder uit naar de wetenschap. Al met al zet generatieve AI druk op democratische processen zoals de toegang tot kennis, de nieuwsvoorziening en het publieke debat en het wordt daardoor nog lastiger om democratische zeggenschap over de technologie te krijgen .

Peter icthealth

ICT&health World Conference 2024

Ervaar de toekomst van de gezondheidszorg tijdens de ICT&health World Conference van 14-16 mei 2024! Claim alvast jouw ticket en dompel je onder in baanbrekende technologieën en innovatieve oplossingen. Ga in gesprek met collega-experts en verken de kracht van wereldwijde samenwerkingen.

Deel dit artikel!

Lees ook
GIDH
Global Initiative on Digital Health (GIDH) officieel van start
Oncologienetwerk
Nieuw oncologienetwerk Noord- en Oost-Nederland
Verbeterprogramma ouderenzorg
Samenwerking centraal in verbeterprogramma Samen Beter
eiwitten
Menselijke eiwitten herkennen met nieuwe techniek
Digitale proeftuin
Digitale proeftuin maakt wegwijs in nieuw UZI-stelsel
challenge
Digivaardig in de zorg komt weer met Digifit challenge
Veertien IZA-partners hebben Digizo.nu opgericht om te helpen bij het opschalen van bewezen zorginnovaties.
Digizo.nu helpt bewezen innovaties opschalen
Robotchirurgie
Robotchirurgie in de ruimte
authenticatie
Stapsgewijs leren in pilot ZORG-ID Smart
revalidatiezorg epd
Nieuw EPD voor de revalidatiezorg
Volg jij ons al?