Umělá inteligence a demokratická kontrola v EU

Usnesení vychází ze zprávy Výboru pro ústavní záležitosti (AFCO), ke které se vyjádřily i výbory IMCO a LIBE. Zpravodajem byl Emmanouil Kefalogiannis (EPP), stínové zpravodaje měly mimo jiné S&D, Renew i Greens/EFA. Jde o zprávu z vlastního podnětu (procedura INI), nikoli o návrh zákona.

Výchozí myšlenka textu zní: správa umělé inteligence není jen technická regulace, ale otázka ústavního práva a institucionální rovnováhy EU. Usnesení proto zdůrazňuje potřebu robustní a trvalé parlamentní kontroly a trvá na tom, že zásada „rozhoduje člověk“ musí zůstat jádrem institucionálního práva EU. Opakuje také, že nasazování umělé inteligence v orgánech EU musí zůstat pod plným lidským dohledem.

Druhý okruh se týká práv jednotlivce. Usnesení vyzývá k úpravě Listiny základních práv EU o práva, která s rozšířením umělé inteligence nově vznikají: ochranu osobní identity a podoby před deepfakes, algoritmickou transparentnost a digitální sebeurčení, ochranu před algoritmickou diskriminací a odpovědnost za způsobené škody. Vyzývá i k uznání práva na smysluplné lidské přezkoumání rozhodnutí, která ve veřejné správě přijal nebo podpořil systém umělé inteligence. V soudnictví má podle textu zůstat umělá inteligence čistě pomocným nástrojem a nesmí nahrazovat soudní rozhodování.

Třetí okruh míří na instituce. Usnesení navrhuje mezinárodní úmluvu o umělé inteligenci s globálními dohledovými mechanismy, inspirovanou modelem Smlouvy o nešíření jaderných zbraní. Navrhuje zvážit zřízení zvláštního útvaru, který by se mohl jmenovat Středisko Evropského parlamentu pro sledování AI. Měl by výborům pomáhat budovat odbornost, mít podpůrnou, ne regulační povahu a fungovat rozpočtově neutrálně. Zdůrazňuje potřebu silného a přiměřeně financovaného Úřadu Komise pro umělou inteligenci a zdůrazňuje, že rostoucí počet prováděcích aktů a aktů v přenesené pravomoci nesmí oslabit roli Parlamentu jako spolunormotvůrce.

Čtvrtý okruh se týká demokracie. Usnesení vyzývá k systematickému posuzování rizik umělé inteligence pro integritu voleb, šíření dezinformací a zahraniční vměšování, je znepokojeno jejím možným dopadem na pluralitu médií a poukazuje na to, že současný volební právní rámec EU na rizika spojená s AI nestačí.

Pro hlasovalo 405 poslanců, proti 133 a 60 se zdrželo. S&D (111), Renew (69) a Greens/EFA (42) hlasovaly jednotně pro, EPP drtivou většinou (152 pro, 1 proti, 2 se zdrželi). EPP, S&D, Renew a Greens/EFA, tedy proevropská většina, tak samy daly 374 hlasů pro, výrazně víc než všechny hlasy proti.

Proti se postavily ECR, PfE a ESN, tedy krajní pravice. ESN hlasovala jednotně proti (21 hlasů). Z PfE nehlasoval pro nikdo, 46 poslanců bylo proti a část frakce se zdržela. ECR hlasovala většinou proti (56 proti, 2 pro, 12 se zdrželo). Připomínáme, že zdržení se není hlas proti. The Left, tedy krajní levice, hlasovala většinou pro (25 pro, 1 proti, 11 se zdrželo).