Kunstmatige intelligentie en democratische controle in de EU

De resolutie is gebaseerd op het verslag van de Commissie constitutionele zaken (AFCO), waarover ook de commissies IMCO en LIBE zich hebben uitgesproken. Emmanouil Kefalogiannis (EPP) was rapporteur; schaduwrapporteurs waren onder meer de S&D, Renew en Greens/EFA. Het betreft een initiatiefverslag (INI-procedure), geen wetsvoorstel.

De uitgangspunt van de tekst luidt: het beheer van kunstmatige intelligentie is niet alleen een kwestie van technische regelgeving, maar ook een kwestie van constitutioneel recht en het institutionele evenwicht van de EU. De resolutie benadrukt daarom de noodzaak van robuuste en duurzame parlementaire controle en dringt erop aan dat het beginsel „de mens beslist“ de kern van het institutionele recht van de EU moet blijven vormen. Ook wordt herhaald dat de inzet van kunstmatige intelligentie binnen de EU-instellingen volledig onder menselijk toezicht moet blijven staan.

Het tweede onderdeel betreft de rechten van het individu. De resolutie roept op tot aanpassing van het Handvest van de grondrechten van de EU aan de rechten die met de opkomst van kunstmatige intelligentie ontstaan: bescherming van de persoonlijke identiteit en het uiterlijk tegen deepfakes, algoritmische transparantie en digitale zelfbeschikking, bescherming tegen algoritmische discriminatie en aansprakelijkheid voor veroorzaakte schade. Ook wordt opgeroepen tot erkenning van het recht op een zinvolle menselijke toetsing van beslissingen die in het openbaar bestuur door een kunstmatig-intelligentiesysteem zijn genomen of ondersteund. In de rechtspraak moet kunstmatige intelligentie volgens de tekst louter een hulpmiddel blijven en mag deze de rechterlijke besluitvorming niet vervangen.

Het derde onderdeel richt zich op instellingen. De resolutie stelt een internationaal verdrag inzake kunstmatige intelligentie voor met wereldwijde toezichtsmechanismen, geïnspireerd op het model van het Verdrag inzake de niet-verspreiding van kernwapens. Er wordt voorgesteld om de oprichting van een speciale eenheid te overwegen, die het „AI-monitoringcentrum van het Europees Parlement“ zou kunnen heten. Deze eenheid zou de commissies moeten helpen bij het opbouwen van expertise, een ondersteunende en geen regelgevende rol moeten vervullen en begrotingsneutraal moeten functioneren. Het benadrukt de noodzaak van een sterk en adequaat gefinancierd Bureau voor kunstmatige intelligentie van de Commissie en wijst erop dat het toenemende aantal uitvoeringshandelingen en handelingen in het kader van gedelegeerde bevoegdheden de rol van het Parlement als medewetgever niet mag verzwakken.

Het vierde thema betreft democratie. In de resolutie wordt opgeroepen tot een systematische beoordeling van de risico’s van kunstmatige intelligentie voor de integriteit van verkiezingen, de verspreiding van desinformatie en buitenlandse inmenging; het spreekt zijn bezorgdheid uit over de mogelijke gevolgen ervan voor de pluraliteit van de media en wijst erop dat het huidige EU-kiesrechtelijke kader ontoereikend is om de risico’s in verband met AI aan te pakken.

405 leden stemden voor, 133 tegen en 60 onthielden zich van stemming. S&D (111), Renew (69) en Greens/EFA (42) stemden unaniem voor, de EPP met een overweldigende meerderheid (152 voor, 1 tegen, 2 onthoudingen). De EPP, S&D, Renew en Greens/EFA, oftewel de pro-Europese meerderheid, leverden daarmee alleen al 374 stemmen voor op, aanzienlijk meer dan alle stemmen tegen.

Tegen stemden de ECR, PfE en ESN, oftewel extreemrechts. De ESN stemde unaniem tegen (21 stemmen). Van de PfE stemde niemand voor, 46 leden stemden tegen en een deel van de fractie onthield zich van stemming. De ECR stemde grotendeels tegen (56 tegen, 2 voor, 12 onthielden zich). Ter herinnering: onthouding is geen stem tegen. The Left, oftewel extreemlinks, stemde grotendeels voor (25 voor, 1 tegen, 11 onthielden zich).