Vještačka inteligencija i demokratski nadzor u EU

Rezolucija se temelji na izvješću Odbora za ustavne poslove (AFCO), na kojem su svoje stavove iznijeli i odbori IMCO i LIBE. Izvjestitelj je bio Emmanouil Kefalogiannis (EPP), dok su među sjenčanim izvjestiteljima bili, između ostalih, grupe S&D, Renew i Greens/EFA. Ovo je izvješće po vlastitoj inicijativi (postupak INI), a ne zakonodavni prijedlog.

Osnovna pretpostavka teksta jest da upravljanje umjetnom inteligencijom nije samo pitanje tehničke regulative, već i pitanje ustavnog prava i institucionalne ravnoteže EU-a. Stoga rezolucija naglašava potrebu za snažnim i kontinuiranim parlamentarnim nadzorom i inzistira na tome da načelo "čovjeka u petlji" ostane u središtu institucionalnog prava EU. Također se ponavlja da primjena umjetne inteligencije unutar institucija EU-a mora ostati pod potpunim ljudskim nadzorom.

Drugo područje odnosi se na pojedinačna prava. Rezolucija poziva na izmjenu Povelje o temeljnim pravima EU-a kako bi uključila prava koja nastaju s proširenjem umjetne inteligencije: zaštitu osobnog identiteta i prikaza od dubinskih lažnih sadržaja (deepfake), algoritamsku transparentnost i digitalnu samoupravu, zaštitu od algoritamske diskriminacije i odgovornost za uzrokovanu štetu. Također poziva na priznavanje prava na smisleno ljudsko preispitivanje odluka donesenih ili podržanih sustavom umjetne inteligencije u javnoj upravi. Prema tekstu, umjetna inteligencija trebala bi ostati isključivo pomoćno sredstvo unutar pravosuđa i ne smije zamijeniti donošenje sudskih odluka.

Treće područje usredotočeno je na institucije. Rezolucija predlaže međunarodnu konvenciju o umjetnoj inteligenciji s globalnim nadzornim mehanizmima, nadahnutu modelom Ugovora o neproliferaciji nuklearnog oružja. Predlaže se razmatranje uspostave specijalizirane jedinice, koja bi se mogla nazvati Centrom za nadzor umjetne inteligencije Europskog parlamenta. Ona bi trebala pomagati odborima u izgradnji stručnosti, imati potpornu, a ne regulatornu prirodu i djelovati na načelu neutralnosti proračuna. Naglašava potrebu za snažnim i adekvatno financiranim Uredom Komisije za umjetnu inteligenciju i ističe da sve veći broj provedbenih akata i delegiranih akata ne smije potkopati ulogu Parlamenta kao suzakonodavca.

Četvrto područje odnosi se na demokraciju. Rezolucija poziva na sustavnu procjenu rizika koje umjetna inteligencija predstavlja za integritet izbora, širenje dezinformacija i stranog uplitanja; izražava zabrinutost zbog njegovog potencijalnog utjecaja na pluralizam medija i ističe da je trenutačni zakonodavni okvir EU-a o izborima nedovoljan za rješavanje rizika povezanih s umjetnom inteligencijom.

405 zastupnika glasalo je za, 133 protiv, a 60 suzdržano. S&D (111), Renew (69) i Greens/EFA (42) glasali su jednoglasno za, dok je EPP glasao velikom većinom (152 za, 1 protiv, 2 suzdržana). EPP, S&D, Renew i Greens/EFA – odnosno proeuropska većina – tako su osigurali 374 glasa za, što je znatno više od ukupnog broja glasova protiv.

ECR, PfE i ESN – to jest, krajnja desnica – glasali su protiv. ESN je jednoglasno glasao protiv (21 glas). Nijedan član PfE nije glasao za; 46 zastupnika glasalo je protiv, a dio grupe suzdržao se. ECR je uglavnom glasao protiv (56 protiv, 2 za, 12 suzdržanih). Napominjemo da suzdržanost nije glas protiv. Ljevica, odnosno krajnja ljevica, uglavnom je glasala za (25 za, 1 protiv, 11 suzdržanih).