Marcos normativos para una IA ética y confiable en la educación superior: estado de la cuestión
DOI:
https://doi.org/10.5944/ried.28.2.43511Palabras clave:
inteligencia artificial, educación superior, ética, normativaResumen
La investigación sobre el uso de la inteligencia artificial (IA) en instituciones educativas es un área emergente y en evolución. En la actualidad se ve la necesidad de analizar la sinergia entre la ética y el adecuado uso de la IA en el contexto académico. Por ende, se presenta un estudio documental para indagar sobre los marcos normativos y éticos del uso de la IA en las instituciones de educación superior. Se realizó una revisión sistemática de literatura bajo las directrices y procedimientos del modelo PRISMA. La búsqueda de la información se realizó en las bases de datos de Scielo, Scopus, Redalyc, entre otras, que posteriormente fueron exportados a Mendeley y procesados en Rayyan con la intención de analizarlos y categorizarlos. En el proceso de cribación se seleccionaron 28 artículos clasificados en cuatro categorías: desafíos y riesgos éticos, marcos normativos, formación ética y modelos didácticos. Se utilizó el software de MAXQDA para su procesamiento. Además, se realizó un análisis bibliométrico (VOSviewer) que permitió conocer las principales tendencias en torno a la temática. En general, los resultados manifiestan, por un lado, la importancia de generación de políticas y regulaciones específicas que permitan el uso adecuado de la IA en contextos universitarios. Por otro, la necesidad de formación de toda la comunidad educativa involucrada, incorporando su uso responsable. El debate académico sobre cómo afrontar el desafío de equilibrar la innovación tecnológica con la ética, la inclusión y la sostenibilidad continúa abierto.
Descargas
Citas
Aler, A., Mora, M., & Nieves, J. C. (2024). How to teach responsible AI in Higher Education: challenges and opportunities. Ethics and Information Technology, 26(3). https://doi.org/10.1007/s10676-023-09733-7
Avello-Sáez, D., & Estrada-Palavecino, L. (2023). ChatGPT e seu impacto na formação de competências para terapeutas ocupacionais: uma reflexão sobre a integridade acadêmica. Cadernos Brasileiros de Terapia Ocupacional, 31, e3534. https://doi.org/10.1590/2526-8910.ctoen271035343
Baldrich, K., & Domínguez, J. C. (2024). El uso de ChatGPT en la escritura académica: un estudio de caso en educación. Pixel-Bit. Revista de Medios y Educación, 71, 141-157. https://doi.org/10.12795/pixelbit.103527
Chan, C. K. Y. (2023). A comprehensive AI policy education framework for university teaching and learning. International Journal of Educational Technology in Higher Education, 20(1), 38. https://doi.org/10.1186/s41239-023-00408-3
Chan, C. K. Y., & Hu, W. (2023). Students' voices on generative AI: Perceptions, benefits, and challenges in higher education. International Journal of Educational Technology in Higher Education, 20(43). https://doi.org/10.1186/s41239-023-00411-8
Cisneros, J. D. D., Limo, F. A. F., Tinoco, L. M. B., Aybar, H. N. C., Alarcon, V. G. C., Romero, M. Á. M., & Flores, R. A. R. (2023). Adjustment of Peruvian university students to artificial intelligence. Arts Educa, 36, 237-248. https://artseduca.com/article-detail/?id=145
Comas Forgas, R., Cerdá-Navarro, A., Touza Garma, C., & Moreno Herrera, L. (2023). Prevalencia y factores asociados al plagio académico en estudiantes de nuevo ingreso de Trabajo Social y Educación Social: un análisis empírico. RELIEVE. Revista Electrónica de Investigación y Evaluación Educativa, 29(2), 1-20. https://doi.org/10.30827/relieve.v29i2.29055
Cordón García, O. (2023). Inteligencia Artificial en Educación Superior: Oportunidades y Riesgos. RiiTE. Revista interuniversitaria de investigación en Tecnología Educativa, (15), 16-27. https://doi.org/10.6018/riite.591581
Cornejo-Plaza, I., & Cippitani, R. (2023). Consideraciones éticas y jurídicas de la Inteligencia Artificial en Educación Superior: desafíos y perspectivas. Revista de Educación y Derecho, (28). https://doi.org/10.1344/REYD2023.28.43935
Cox, A. M. (2021). Exploring the impact of Artificial Intelligence and robots on higher education through literature-based design fictions. International Journal of Educational Technology in Higher Education, 18(3). https://doi.org/10.1186/s41239-020-00237-8
Dai, Y., Lai, S., Lim, C. P., & Liu, A. (2024). University policies on generative AI in Asia: promising practices, gaps, and future directions. Journal of Asian Public Policy, 1-22. https://doi.org/10.1080/17516234.2024.2379070
Dávila Morán, R. C., & Agüero Corzo, E. C. (2023). Desafíos éticos de la inteligencia artificial: implicaciones para la sociedad y la economía. Conrado, 19(94), 137-144.
Flores, J. M., & García, F. J. (2023). Reflexiones sobre la ética, potencialidades y retos de la Inteligencia Artificial en el marco de la Educación de Calidad (ODS4). Comunicar, 31(74), 37-47. https://doi.org/10.3916/C74-2023-03
Fornasier, M. de O. (2021). Artificial intelligence and democratic rule of law. Revista de Estudos Constitucionais, Hermenêutica e Teoria do Direito (RECHTD), 13(3), 351–369. https://doi.org/10.4013/rechtd.2021.133.06
Gairín, J., & Alguacil, L. (Coords.). (2024). La gestión de la inteligencia artificial en los contextos universitarios iberoamericanos. EDO-Serveis Universitat Autònoma de Barcelona. https://ddd.uab.cat/record/300143
Gallent Torres, C., Zapata González, A., & Ortego Hernando, J. L. (2023). El impacto de la inteligencia artificial generativa en educación superior: una mirada desde la ética y la integridad académica. RELIEVE - Revista Electrónica de Investigación y Evaluación Educativa, 29(2). https://doi.org/10.30827/relieve.v29i2.29134
García-Fuentes, O., Raposo-Rivas, M., Martínez-Figueira, M. E., & Sarmiento-Campos, J. A. (2024). Análisis de vídeo-anotaciones sobre el uso de recursos tecnológicos durante el Prácticum. Pixel-Bit. Revista de Medios y Educación, 70, 143-161. https://doi.org/10.12795/pixelbit.102048
García Peñalvo, F. J., Llorens-Largo, F., & Vidal, J. (2024). The new reality of education in the face of advances in generative artificial intelligence. RIED. Revista Iberoamericana de Educación a Distancia, 27(1), 9-39. https://doi.org/10.5944/ried.27.1.37716
Gibert Delgado, R. P., Gorina Sánchez, A., Reyes-Palau, N. C., Tapia-Sosa, E. V., & Siza Moposita, S. F. (2023). Educación 4.0: Enfoque innovador apoyado en la inteligencia artificial para la educación superior. Universidad y Sociedad, 15(6), 60-74. https://rus.ucf.edu.cu/index.php/rus/article/view/4122/4032
González Alcaide, G. (2024). 1 d.C. (después de ChatGPT). Inteligencia artificial generativa en la educación superior. Publicaciones de la Universitat de València. https://puv.uv.es/1-d-c-despues-de-chatgpt.html
Guissepe Hernández, Y. K., Hernández Chávez, W. J., & Moucharrafieh Moucharafieh, S. (2021). Orientaciones éticas en la educación superior para el uso de la inteligencia artificial en ambientes disruptivos. REDHECS. Revista Electrónica de Humanidades, Educación y Comunicación Social, 29(19), 69-92. https://ojs2.urbe.edu/index.php/redhecs/article/view/4423
Henry, J. V., & Oliver, M. (2022). Who Will Watch the Watchmen? The Ethico-political Arrangements of Algorithmic Proctoring for Academic Integrity. Postdigital Science and Education, 4(2), 330-353. https://doi.org/10.1007/s42438-021-00273-1
Holmes, W., Iniesto, F., Anastopoulou, S., & Boticario, J. G. (2023). Stakeholder perspectives on the ethics of AI in distance-based higher education. International Review of Research in Open and Distributed Learning, 24(2), 96-117. https://doi.org/10.19173/irrodl.v24i2.6089
Huang, C., Samek, T., & Shiri, A. (2021). AI and ethics: Ethical and educational perspectives for LIS. Journal of Education for Library and Information Science, 62(4), 351-365. https://doi.org/10.3138/jelis-62-4-2020-0106
Humble, N., & Mozelius, P. (2022). The threat, hype, and promise of artificial intelligence in education. Discover Artificial Intelligence, 2(1), 22. https://doi.org/10.1007/s44163-022-00039-z
Instituto Nacional de Tecnologías Educativas y de Formación del Profesorado. (2024). Guía sobre el uso de la Inteligencia Artificial en el ámbito educativo. Ministerio de Educación, Formación Profesional y Deportes. https://code.intef.es/wp-content/uploads/2024/07/Gu%C3%ADa-sobre-el-uso-de-la-IA-en-el-ámbito-educativo-INTEF_2024.pdf
Ivanov, S. (2023). The dark side of artificial intelligence in higher education. The Service Industries Journal, 43(15-16), 1055-1082. https://doi.org/10.1080/02642069.2023.2258799
Knoke, D., & Yang, S. (2008). Social network analysis. Sage. https://doi.org/10.4135/9781412985864
Kwak, Y., Ahn, J. W., & Seo, Y. H. (2022). Influence of AI ethics awareness, attitude, anxiety, and self-efficacy on nursing students' behavioral intentions. BMC Nursing, 21(1), 267. https://doi.org/10.1186/s12912-022-01048-0
López-Regalado, O., Núñez-Rojas, N., López-Gil, O. R., & Sánchez-Rodríguez, J. (2024). Análisis del uso de la inteligencia artificial en la educación universitaria: una revisión sistemática. Pixel-Bit. Revista de Medios y Educación, 70, 97-122. https://doi.org/10.12795/pixelbit.106336
Lopezosa, C., Codina, L., Pont-Sorribes, C., & Vállez, M. (2023). Use of generative artificial intelligence in the training of journalists: challenges, uses and training proposals. Profesional de la información, 32(4), e320408. https://doi.org/10.3145/epi.2023.jul.08
Marín, V. I., & Tur, G. (2024). Ethical Issues in the Use of Technologies in Education Settings: A Scoping Review. Education in the Knowledge Society, 25, e31301. https://doi.org/10.14201/eks.31301
McGrath, C., Pargman, T. C., Juth, N., & Palmgren, P. J. (2023). University teachers' perceptions of responsibility and artificial intelligence in higher education. An experimental philosophical study. Computers and Education: Artificial Intelligence, 4, 100139. https://doi.org/10.1016/j.caeai.2023.100139
Mendoza, D. S. O. E. (2021). Las revisiones sistemáticas como proceso de selección artificial del conocimiento científico en el área de salud. Revista de Ciencias Sociales, 30(59). https://doi.org/10.20983/noesis.2021.1.9
Michel-Villarreal, R., Vilalta-Perdomo, E., Salinas-Navarro, D. E., Thierry-Aguilera, R., & Gerardou, F. S. (2023). Challenges and Opportunities of Generative AI for Higher Education as Explained by ChatGPT. Education Sciences, 13(9), 856. https://doi.org/10.3390/educsci13090856
Mora Naranjo, B. M., Aroca Izurieta, C. E., Tiban Leica, L. R., Sánchez Morrillo, C. F., & Jiménez Salazar, A. (2023). Ética y Responsabilidad en la implementación de la Inteligencia Artificial en la educación. Ciencia Latina. Revista Científica Multidisciplinar, 7(6), 2054-2076. https://doi.org/10.37811/cl_rcm.v7i6.8833
Moya, B. A., & Eaton, S. E. (2023). Examinando Recomendaciones para el Uso de la Inteligencia Artificial Generativa con Integridad desde una Lente de Enseñanza y Aprendizaje. RELIEVE. Revista Electrónica de Investigación y Evaluación Educativa, 29(2). https://doi.org/10.30827/relieve.v29i2.29295
Nguyen, A., Ngo, H. N., Hong, Y., Dang, B., & Nguyen, B. P. T. (2023). Ethical principles for artificial intelligence in education. Education and Information Technologies, 28(4), 4221-4241. https://doi.org/10.1007/s10639-022-11316-w
Page, M. J., McKenzie, J. E., Bossuyt, P. M., Boutron, I., Hoffmann, T. C., Mulrow, C. D., Shamseer, L., Tetzlaff, J. M., Akl, E. A., Brennan, S. E., Chou, R., Glanville, J., Grimshaw, J. M., Hróbjartsson, A., Lalu, M. M., Li, T., Loder, E. W., Mayo-Wilson, E., McDonald, S., … Moher, D. (2021). The PRISMA 2020 statement: An updated guideline for reporting systematic reviews. BMJ, 372(71). https://doi.org/10.1136/bmj.n71
Pham, M. T., Rajić, A., Greig, J. D., Sargeant, J. M., Papadopoulos, A., & McEwen, S. A. (2014). A scoping review of scoping reviews: Advancing the approach and enhancing the consistency. Research Synthesis Methods, 5(4), 371-385. https://doi.org/10.1002/jrsm.1123
Piedra Alegría, J. (2023). Anotaciones iniciales para una reflexión ética sobre la regulación de la Inteligencia Artificial en la Unión Europea. Revista de Derecho, (28), e3264. https://doi.org/10.22235/rd28.3264
Pierrès, O., Christen, M., Schmitt-Koopmann, F. M., & Darvishy, A. (2024). Could the use of AI in Higher Education hinder students with disabilities? A scoping review. IEEE Access, 12, 27810-27828. https://doi.org/10.1109/ACCESS.2024.3365368
Rodríguez-Argueta, C. M. (2020). Tendencias de la oferta en educación superior en El Salvador - Relevancia de las carreras en Ciencia, Tecnología, Ingenierías y Matemáticas (por sus siglas en inglés STEM) ante la nueva economía digital. Entorno, (70), 22-32. https://doi.org/10.5377/entorno.v0i69.9559
Ruiz Bueno, A. (2021). El contenido y su análisis: enfoque y proceso. Universitat de Barcelona. http://hdl.handle.net/2445/179232
Samuel, G., & Derrick, G. (2020). Defining ethical standards for the application of digital tools to population health research. Bulletin of the World Health Organization, 98(4), 239. https://doi.org/10.2471/BLT.19.237370
Sánchez, M. M. (2023). La inteligencia artificial como recurso docente: usos y posibilidades para el profesorado. Educar, 60(1), 33-47. https://doi.org/10.5565/rev/educar.1810
Seldon, A., Lakhani, P., & Luckin, R. (2020). The Ethical Framework for AI in Education. The Institute for Ethical AI in Education. https://bit.ly/3Q9yobB
Svaricek, R. (2024). Sceptical teacher and silent students: a case study of teacher changes during a teacher professional development programme. Journal of Education for Teaching, 50(2), 310-328. https://doi.org/10.1080/02607476.2023.2296459
Torres-Fonseca, A., & López-Hernández, D. (2014). Criterios para publicar artículos de revisión sistemática. Revista de Especialidades Médico-quirúrgicas, 19(3), 393-399.
UNESCO. (2023). UNESCO survey: Less than 10% of schools and universities have formal guidance on AI. UNESCO. https://www.unesco.org/en/articles/unesco-survey-less-10-schools-and-universities-have-formal-guidance-ai
Vélez-Rivera, R., Muñoz-Álvarez, D., Leal-Orellana, P., & Ruiz-Garrido, A. (2024). Uso de Inteligencia Artificial en educación superior y sus implicancias éticas. Mapeo sistemático de literatura. Hachetetepé. Revista científica de Educación y Comunicación, (28). https://doi.org/10.25267/Hachetetepe.2024.i28.1105
Villegas, V., & Delgado, M. (2024). Inteligencia artificial: revolución educativa innovadora en la Educación Superior. Pixel-Bit. Revista de Medios y Educación, 71, 159-177. https://doi.org/10.12795/pixelbit.107760
Yu, L., & Yu, Z. (2023). Qualitative and quantitative analyses of artificial intelligence ethics in education using VOSviewer and CitNetExplorer. Frontiers in Psychology, 14, 1061778. https://doi.org/10.3389/fpsyg.2023.1061778
Yusuf, A., Pervin, N., & Román-González, M. (2024). Generative AI and the future of higher education: a threat to academic integrity or reformation? Evidence from multicultural perspectives. International Journal of Educational Technology in Higher Education, 21(21). https://doi.org/10.1186/s41239-024-00453-6
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2025 María Obdulia González Fernández, M.ª Asunción Romero-López, Natalia Fátima Sgreccia, María José Latorre Medina
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
Las obras que se publican en esta revista están sujetos a los siguientes términos:
1. Los autores ceden de forma no exclusiva los derechos de explotación de los trabajos aceptados para su publicación en "RIED. Revista Iberoamericana de Educación a Distancia," y garantizan a la revista el derecho a ser la primera en publicar ese trabajo, igualmente, permiten a la revista distribuir obras publicadas bajo la licencia indicada en el punto 2.
2. Las obras se publican en la edición electrónica de la revista bajo una licencia Creative Commons Reconocimiento 4.0 Internacional (CC BY 4.0). Se permite copiar y redistribuir el material en cualquier medio o formato, adaptar, remezclar, transformar y crear a partir del material para cualquier finalidad, incluso comercial. Debe reconocer adecuadamente la autoría, proporcionar un enlace a la licencia e indicar si se han realizado cambios.
3. Condiciones de auto-archivo. Se permite e incentiva a los autores a difundir electrónicamente la versión OnlineFirst (versión evaluada y aceptada para su publicación) de su obra antes de su publicación definitiva, siempre con referencia a su publicación en RIED, ya que favorece su circulación y difusión antes y así propiciar un posible aumento de su citación y alcance entre la comunidad académica. Color RoMEO: verde.
