Het Europees Parlement heeft de Europese AI Act definitief goedgekeurd. Het gaat hier om wetgeving van historisch belang, die eerder al groen licht kreeg van de lidstaten. De AI Act biedt een helder kader voor wat er in de EU wel en niet mag omtrent kunstmatige intelligentie. Hierbij is er speciale aandacht voor toepassingen met een hoog risico. Het gaat dan concreet om AI-systemen die impact hebben op thema’s als werving, selectie, promoties en veiligheidsbeheer.
De wet kwam tot stand na jarenlange onderzoeken en stevige onderhandelingen. Uiteindelijk stemt het Europees Parlement nu in met de AI-act met een overtuigende meerderheid van 523 stemmen. Duidelijk is dat een groot deel van de parlementariërs inziet hoe belangrijk het is om dit zich snel ontwikkelende veld te reguleren. De wetgeving kwam de afgelopen tijd tot stand, terwijl de ontwikkelingen omtrent met name rond generatieve AI, zoals ChatGPT, Dall-e en Deep Art, in ongelooflijk tempo over elkaar heen buitelden. Ook in de zorg wordt steeds meer (generatieve) AI ingezet en er worden daar inmiddels ook ontelbaar veel tools ingezet. Denk onder meer aan AWS HealthScribe van Amazon, Med-PaLM 2 van Google, de inzet van virtual health assistants of generatieve AI-tools die in EPD’s worden ingebouwd.
AI-act onderscheidt risiconiveaus
Doordat AI in een stroomversnelling is geraakt, is er ook een groeiend besef ontstaan omtrent de potentiële risico's en uitdagingen die dit met zich meebrengt. De AI Act introduceert om die reden een classificatiesysteem voor AI-toepassingen op basis van risiconiveau, variërend van 'minimaal' tot 'onaanvaardbaar'. Hiermee denkt men een breed scala aan toepassingen van AI te dekken. Bijzondere aandacht gaat uit naar systemen met een 'hoog risico'. Hiervoor gelden nu strenge transparantievereisten en worden ook externe audits verplicht gesteld. Ook worden er specifieke regels ingevoerd voor 'general purpose AI systems', zoals grote taalmodellen, die moeten voldoen aan vergelijkbare eisen als systemen met een hoog risico.
Gevolgen AI Act voor organisaties
Voor organisaties betekent dit dat ze gedetailleerd moeten gaan beoordelen welke van hun AI-systemen onder de nieuwe regelgeving vallen. Vervolgens moeten ze de nodige voorbereidingen gaan treffen om aan de best wel strikte vereisten te gaan voldoen. Dit omvat onder meer het in kaart brengen van AI-systemen, het bepalen van de risicoclassificatie, maar ook het maken van plannen voor de naleving van de AI-Act. De nieuwe Europese wetgeving is niet mals als er overtredingen worden geconstateerd en kan in dat geval hoge boetes opleggen.
De Verenigde Staten hebben vooralsnog, met de zogeheten Executive Order (EO), een aanzienlijk minder gereguleerde benadering van AI dan Europa. Ze richten zich tot nog toe vooral op het ontwikkelen van industrienormen en -richtlijnen. De AI Act van de EU biedt daartegenover een centraler en gedetailleerder regelgevend kader. In vergelijking met de Verenigde Staten, die een minder gereguleerde aanpak van AI hebben, zet de Europese Unie zich met deze historische act nu dus neer als koploper op het gebied van AI-regulering.
Noodzaak tot regulatie AI
De meningen over die ingrijpende stap verschillen in de wereld, maar eigenlijk ziet iedereen wel de noodzaak van regulatie in. Maar er is nog geen internationale consensus over hoe dat in de praktijk dan zou moeten. Europa heeft op dit gebied in ieder geval nu dus wél een belangrijke stap gezet. Voor organisaties is het belangrijk om al die verschillende visies, regels en ontwikkelingen wereldwijd nauwlettend in de gaten te houden. De EU heeft met de nieuwe AI Act in ieder geval een helder statement afgegeven en streeft er expliciet naar een evenwicht te vinden tussen het beschermen van burgers en het stimuleren van innovatie, zonder de economische ontwikkeling onnodig af te remmen.
