Artificiell intelligens och demokratisk kontroll inom EU

Resolutionen bygger på ett betänkande från utskottet för konstitutionella frågor (AFCO), till vilket även utskotten IMCO och LIBE har yttrat sig. Föredragande var Emmanouil Kefalogiannis (EPP), och skuggföredragande var bland annat S&D, Renew och Greens/EFA. Det rör sig om ett initiativbetänkande (INI-förfarandet), inte om ett lagförslag.

Textens utgångspunkt är att förvaltningen av artificiell intelligens inte bara är en teknisk reglering, utan en fråga om konstitutionell rätt och institutionell balans inom EU. I resolutionen betonas därför behovet av en robust och varaktig parlamentarisk kontroll och man insisterar på att principen om att ”människan fattar beslutet” måste förbli kärnan i EU:s institutionella rätt. Det upprepas också att användningen av artificiell intelligens inom EU:s organ måste förbli under fullständig mänsklig övervakning.

Den andra delen avser individens rättigheter. I resolutionen efterlyses en anpassning av EU:s stadga om de grundläggande rättigheterna till de rättigheter som uppstår i och med den ökande användningen av artificiell intelligens: skydd av personlig identitet och utseende mot deepfakes, algoritmisk transparens och digital självbestämmanderätt, skydd mot algoritmisk diskriminering samt ansvar för orsakade skador. Man uppmanar även till erkännande av rätten till en meningsfull mänsklig granskning av beslut som fattats eller stödts av ett system för artificiell intelligens inom den offentliga förvaltningen. Inom rättsväsendet ska artificiell intelligens enligt texten förbli ett rent hjälpverktyg och får inte ersätta domstolsbeslut.

Det tredje området riktar sig mot institutionerna. I resolutionen föreslås en internationell konvention om artificiell intelligens med globala övervakningsmekanismer, inspirerad av modellen för icke-spridningsavtalet för kärnvapen. Man föreslår att man överväger att inrätta en särskild enhet som skulle kunna kallas Europaparlamentets centrum för övervakning av AI. Denna enhet bör hjälpa utskotten att bygga upp sakkunskap, ha en stödjande och inte en reglerande karaktär samt vara budgetneutralt. Man betonar behovet av en stark och tillräckligt finansierad byrå för artificiell intelligens inom kommissionen och understryker att det växande antalet genomförandeakter och delegerade akter inte får försvaga parlamentets roll som medlagstiftare.

Det fjärde området gäller demokrati. I resolutionen efterlyses en systematisk bedömning av riskerna med artificiell intelligens för valens integritet, spridning av desinformation och utländsk inblandning, uttrycker oro över dess möjliga inverkan på mediepluralismen och påpekar att EU:s nuvarande rättsliga ram för val inte är tillräcklig för att hantera de risker som är förknippade med AI.

405 ledamöter röstade för, 133 mot och 60 avstod från att rösta. S&D (111), Renew (69) och Greens/EFA (42) röstade enhälligt för, medan EPP röstade med överväldigande majoritet (152 för, 1 emot, 2 avstod). EPP, S&D, Renew och Greens/EFA, det vill säga den proeuropeiska majoriteten, stod därmed själva för 374 röster för, vilket är betydligt fler än samtliga röster mot.

Mot förslaget ställde sig ECR, PfE och ESN, det vill säga extremhögern. ESN röstade enhälligt emot (21 röster). Inom PfE röstade ingen för, 46 ledamöter röstade emot och en del av fraktionen avstod från att rösta. ECR röstade i majoritet emot (56 emot, 2 för, 12 avstod). Vi påminner om att att avstå från att rösta inte är detsamma som att rösta emot. The Left, det vill säga extremvänstern, röstade i majoritet för (25 för, 1 emot, 11 avstod).