Umetna inteligenca in demokratični nadzor v EU

Resolucija temelji na poročilu Odbora za ustavne zadeve (AFCO), o katerem sta se izrekli tudi odbora IMCO in LIBE. Poročevalec je bil Emmanouil Kefalogiannis (EPP), senčni poročevalci pa so bili med drugim S&D, Renew in Greens/EFA. Gre za poročilo na lastno pobudo (postopek INI), ne pa za predlog zakona.

Osnovna ideja besedila je, da upravljanje umetne inteligence ni zgolj tehnična ureditev, temveč vprašanje ustavnega prava in institucionalnega ravnovesja EU. Resolucija zato poudarja potrebo po trdnem in trajnem parlamentarnem nadzoru ter vztraja, da mora načelo »človek odloča« ostati jedro institucionalnega prava EU. Prav tako ponovno poudarja, da mora uporaba umetne inteligence v organih EU ostati pod popolnim človeškim nadzorom.

Drugi sklop se nanaša na pravice posameznika. Resolucija poziva k dopolnitvi Listine o temeljnih pravicah EU z novimi pravicami, ki nastajajo z razširitvijo umetne inteligence: zaščita osebne identitete in podobe pred deepfakes, algoritmična preglednost in digitalna samoodločba, zaščita pred algoritmično diskriminacijo ter odgovornost za povzročeno škodo. Poziva tudi k priznanju pravice do smiselne človeške presoje odločitev, ki jih je v javni upravi sprejel ali podprl sistem umetne inteligence. V sodstvu naj umetna inteligenca po besedilu ostane zgolj pomožno orodje in ne sme nadomestiti sodnega odločanja.

Tretji sklop se nanaša na institucije. Resolucija predlaga mednarodno konvencijo o umetni inteligenci z globalnimi nadzornimi mehanizmi, ki naj bi bila navdihnjena z modelom Pogodbe o neširjenju jedrskega orožja. Predlaga, da se preuči ustanovitev posebne enote, ki bi se lahko imenovala Center Evropskega parlamenta za spremljanje umetne inteligence. Ta naj bi odborom pomagala pri razvoju strokovnega znanja, imela podporno, ne pa regulativno vlogo ter delovala proračunsko nevtralno. Poudarja potrebo po močnem in ustrezno financiranem Uradu Komisije za umetno inteligenco ter izpostavlja, da naraščajoče število izvedbenih aktov in aktov v preneseni pristojnosti ne sme oslabiti vloge Parlamenta kot sooblikovalca zakonodaje.

Četrto področje se nanaša na demokracijo. Resolucija poziva k sistematičnemu ocenjevanju tveganj, ki jih umetna inteligenca predstavlja za integriteto volitev, širjenja dezinformacij in tujega vmešavanja, izraža zaskrbljenost zaradi njenega morebitnega vpliva na pluralnost medijev ter opozarja, da sedanji volilni pravni okvir EU ne zadostuje za obvladovanje tveganj, povezanih z umetno inteligenco.

Za je glasovalo 405 poslancev, proti 133, 60 pa se je vzdržalo. S&D (111), Renew (69) in Greens/EFA (42) so enoglasno glasovali za, EPP pa s prepričljivo večino (152 za, 1 proti, 2 se je vzdržalo). EPP, S&D, Renew in Greens/EFA, torej proevropska večina, so tako same prispevale 374 glasov za, kar je znatno več kot vsi glasovi proti.

Proti so glasovale ECR, PfE in ESN, torej skrajna desnica. ESN je enoglasno glasovala proti (21 glasov). Iz PfE ni nihče glasoval za, 46 poslancev je glasovalo proti, del frakcije pa se je vzdržal. ECR je večinoma glasovala proti (56 proti, 2 za, 12 se je vzdržalo). Opozarjamo, da vzdržanje ni glas proti. The Left, torej skrajna levica, je večinoma glasovala za (25 za, 1 proti, 11 se je vzdržalo).