Sobre los desafíos constitucionales ante el avance de la Inteligencia Artificial. Una perspectiva nacional y comparada

Jorge Castellanos Claramunt

doi:10.5944/rdp.118.2023.39105

Authors

Jorge Castellanos Claramunt Profesor Ayudante Doctor de Derecho Constitucional. Universitat de València https://orcid.org/0000-0001-9621-6831

DOI:

https://doi.org/10.5944/rdp.118.2023.39105

Keywords:

law, democracy, algorithms, artificial intelligence

Abstract

The aim of this article is to analyse the current regulation on artificial intelligence and the challenges it poses from a legal perspective. Artificial intelligence covers practically all of the daily actions of citizens. Bearing in mind that the law is the guarantor of the correct organisation of relations between people and that, in a democratic system, guarantees of respect for the fundamental rights of citizens are essential, the relationship between the three elements mentioned is unquestionable.
Firstly, it examines the regulation of AI in Europe, highlighting the norms and policies that have been adopted in the European Union and in some member states. Secondly, a comparative exposition is made of European regulation and approach with respect to the rest of the leading countries in terms of AI, such as the United States and China, mainly.
Third, it analyses the constitutional challenges posed by AI, including issues of privacy protection, the right to equality and non-discrimination, and legal liability in case of harm caused by AI systems. Fourth, the importance of algorithmic transparency and explainability in the use of AI systems is addressed, as lack of clarity in the operation of these systems can lead to discriminatory or harmful decisions.
Finally, the conclusions highlight the need for specific and coherent regulation for AI that addresses the legal and ethical challenges posed by this technology. It emphasises the importance of transparency and algorithmic explainability to ensure the protection of fundamental rights and invites legislators to work together with AI experts and other disciplines to achieve effective regulation.

Summary: I. INTRODUCTION. II. ANALYSIS OF THE REGULATION ON ARTIFICIAL INTELLIGENCE. 1. On the regulation of AI in Europe. 2. Comparative exposition of the European regulation and approach and the other AI players: the peculiarities of the US and China. III. CONSTITUTIONAL CHALLENGES OF ARTIFICIAL INTELLIGENCE. IV. ALGORITHMIC TRANSPARENCY AND EXPLAINABILITY. V. CONCLUSIONS.

Downloads

Download data is not yet available.

References

Arce Jiménez, C. ¿Una nueva ciudadanía para la era digital?, Dykinson, Madrid, 2022.

Arendt, H. Los orígenes del totalitarismo, Taurus, Madrid, 1998.

S. Barocas, S., y Selbst, A.D. “Big data's disparate impact”, California law review, núm. 104, 2016, pp. 671-732.

Boix, A. “Los algoritmos son reglamentos: la necesidad de extender las garantías propias de las normas reglamentarias a los programas empleados por la administración para la adopción de decisiones”, Revista de Derecho Público: Teoría y Método, vol. 1, 2020, pp. 223-270. DOI: https://doi.org/10.37417/RPD/vol_1_2020_33

Castellanos Claramunt, J. “La democracia algorítmica: inteligencia artificial, democracia y participación política”, Revista General de Derecho Administrativo, núm. 50, 2019, pp. 1-32.

Castellanos Claramunt, J. “Democracia, administración pública e inteligencia artificial desde una perspectiva política y jurídica”, Revista Catalana de Dret Públic, núm. 60, 2020, pp. 137-147. DOI: http://dx.doi.org/10.2436/rcdp.i60.2020.3344

Castellanos Claramunt, J., y Montero Caro, M.D. “Perspectiva constitucional de las garantías de aplicación de la inteligencia artificial: la ineludible protección de los derechos fundamentales”, IUS ET SCIENTIA: Revista electrónica de Derecho y Ciencia, vol. 6, núm. 2, 2020, pp. 72-82.

Gentile, E. La mentira del pueblo soberano en la democracia (trad. Carlo A. Caranci), Alianza editorial, Madrid, 2018.

Goel, S., Shroff, R., Skeem, J.L., y Slobogin, C. The Accuracy, Equity, and Jurisprudence of Criminal Risk Assessment (December 26, 2018). DOI: http://dx.doi.org/10.2139/ssrn.3306723

Habermas, J. Ciencia y técnica como ideología, Tecnos, Madrid, 2010.

Innerarity, D. Pandemocracia, Galaxia Gutenberg, Barcelona, 2020.

Kleinberg, J., Ludwig, J., Mullainathan, S., y Sunstein, C.R. “Discrimination in the Age of Algorithms”, Journal of Legal Analysis, vol. 10, 2018, pp. 113–174. DOI: https://doi.org/10.1093/jla/laz001

Lassalle, J.M., Ciberleviatán. El colapso de la democracia liberal frente a la revolución digital, Arpa, Barcelona, 2019.

Medina Guerrero, M. “El derecho a conocer los algoritmos utilizados en la toma de decisiones. Aproximación desde la perspectiva del derecho fundamental a la protección de datos personales”, Teoría y Realidad Constitucional, núm. 49, 2022, pp. 141-171. DOI: https://doi.org/10.5944/trc.49.2022.33847

Muñoz Vela, J.M. Retos, riesgos, responsabilidad y regulación de la inteligencia artificial. [Un enfoque de seguridad física, lógica, moral y jurídica], 1ª ed., Thomson Reuters – Aranzadi, 2022.

O’Connor, C., y Owen, J. The Missinformation Age. How False Beliefs Spread, Yale University Press, 2018.

O’Neil, C. Armas de destrucción matemática. Cómo el big data aumenta la desigualdad y amenaza la democracia, Capitán Swing, Madrid, 2017.

Ortiz de Zárate Alcarazo, L. “Explicabilidad (de la inteligencia artificial)”, Eunomía. Revista en Cultura de la Legalidad, núm. 22, 2022, pp. 328-344. DOI: https://doi.org/10.20318/eunomia.2022.6819

Presno, M.Á. “Una aproximación a la inteligencia artificial y su incidencia en los derechos fundamentales”, Blog Nueva Icaria, IDP Observatorio de Derecho Público, 1 de agosto de 2022. Disponible en: https://idpbarcelona.net/una-aproximacion-a-la-inteligencia-artificial-y-su-incidencia-en-los-derechos-fundamentales/

Sadin, E. La siliconización del mundo. La irresistible expansión del liberalismo digital, Caja Negra, Buenos Aires, 2018.

Zuboff, S. La era del capitalismo de la vigilancia: la lucha por un futuro humano frente a las nuevas fronteras del poder (trad. Albino Santos), 1ª ed., Paidós, Barcelona, 2020.