La inteligencia artificial y el control democrático en la UE

La resolución se basa en el informe de la Comisión de Asuntos Constitucionales (AFCO), sobre el que también se han pronunciado las comisiones IMCO y LIBE. El ponente fue Emmanouil Kefalogiannis (PPE), y entre otros, el S&D, Renew y los Verdes/EFA contaron con ponentes alternativos. Se trata de un informe de iniciativa propia (procedimiento INI), no de una propuesta legislativa.

La idea central del texto es que la gestión de la inteligencia artificial no es solo una cuestión de regulación técnica, sino también de derecho constitucional y de equilibrio institucional de la UE. Por ello, la resolución subraya la necesidad de un control parlamentario sólido y permanente e insiste en que el principio de «la decisión la toma el ser humano» debe seguir siendo el núcleo del derecho institucional de la UE. Reitera asimismo que el uso de la inteligencia artificial en los órganos de la UE debe permanecer bajo plena supervisión humana.

El segundo ámbito se refiere a los derechos de las personas. La resolución insta a que se modifique la Carta de los Derechos Fundamentales de la UE para incluir los derechos que surgen con la expansión de la inteligencia artificial: la protección de la identidad y la imagen personales frente a los «deepfakes», la transparencia algorítmica y la autodeterminación digital, la protección frente a la discriminación algorítmica y la responsabilidad por los daños causados. También insta a que se reconozca el derecho a una revisión humana significativa de las decisiones que, en la administración pública, haya adoptado o respaldado un sistema de inteligencia artificial. En el ámbito judicial, según el texto, la inteligencia artificial debe seguir siendo una herramienta meramente auxiliar y no debe sustituir la decisión judicial.

El tercer ámbito se centra en las instituciones. La resolución propone un convenio internacional sobre inteligencia artificial con mecanismos de supervisión globales, inspirado en el modelo del Tratado de No Proliferación Nuclear. Propone considerar la creación de una unidad especial que podría denominarse «Centro del Parlamento Europeo para el Seguimiento de la IA». Debería ayudar a las comisiones a desarrollar conocimientos especializados, tener un carácter de apoyo —no regulador— y funcionar de manera presupuestariamente neutra. Destaca la necesidad de una Oficina de la Comisión para la Inteligencia Artificial sólida y dotada de una financiación adecuada, y subraya que el creciente número de actos de ejecución y de delegación no debe debilitar el papel del Parlamento como colegislador.

El cuarto ámbito se refiere a la democracia. La resolución insta a evaluar de forma sistemática los riesgos que plantea la inteligencia artificial para la integridad de las elecciones, la difusión de desinformación y la injerencia extranjera; expresa su preocupación por su posible impacto en la pluralidad de los medios de comunicación y señala que el actual marco jurídico electoral de la UE no es suficiente para hacer frente a los riesgos asociados a la IA.

Han votado a favor 405 diputados, en contra 133 y 60 se han abstenido. El S&D (111), Renew (69) y los Verdes/EFA (42) votaron unánimemente a favor, mientras que el PPE lo hizo por abrumadora mayoría (152 a favor, 1 en contra y 2 abstenciones). El PPE, el S&D, Renew y los Verdes/ALE, es decir, la mayoría proeuropea, sumaron por sí solos 374 votos a favor, una cifra notablemente superior al total de votos en contra.

Se opusieron el ECR, el PfE y el ESN, es decir, la extrema derecha. El ESN votó en bloque en contra (21 votos). Del PfE, nadie votó a favor, 46 diputados votaron en contra y una parte del grupo se abstuvo. El ECR votó mayoritariamente en contra (56 en contra, 2 a favor y 12 abstenciones). Recordamos que la abstención no equivale a un voto en contra. The Left, es decir, la extrema izquierda, votó mayoritariamente a favor (25 a favor, 1 en contra y 11 abstenciones).