La  ética en el uso de la inteligencia artificial en los procesos educativos

Marcia Yolanda Paguay-Simbaña; Donatila Jimenez-Abad; Verónica Fernanda Quiliguango-Lanchimba; María Pilar Maynaguez-Canacuan; Cristina de los Ángeles Coello-García; Susana Magdalena Coello-Ortiz

doi:10.53877/rc.8.19e.202409.12

Autores/as

Marcia Yolanda Paguay-Simbaña Unidad Educativa Tres de Diciembre https://orcid.org/0009-0004-1182-6745
Donatila Jimenez-Abad Unidad Educativa Tres de Diciembre https://orcid.org/0009-0008-4687-5626
Verónica Fernanda Quiliguango-Lanchimba Docente en la Unidad Educativa Tres de Diciembre https://orcid.org/0009-0007-1687-852X
María Pilar Maynaguez-Canacuan Unidad Educativa Fiscal Tres de Diciembre https://orcid.org/0009-0004-3100-3914
Cristina de los Ángeles Coello-García Unidad Educativa Tres de Diciembre https://orcid.org/0009-0003-8503-2545
Susana Magdalena Coello-Ortiz Unidad Educativa Fiscal Pedro Bouguer https://orcid.org/0009-0008-7643-0206

DOI:

https://doi.org/10.53877/rc.8.19e.202409.12

Palabras clave:

ética, proceso educativo, formación integral, trabajo colaborativo

Resumen

El uso de la inteligencia artificial como herramienta permite adaptar la formación de los estudiantes según sus características y recopila gran cantidad de datos para su evaluación. Sin embargo, esta herramienta plantea cuestiones éticas significativas, por lo que es crucial reflexionar sobre estas cuestiones y establecer códigos éticos que guíen el desarrollo y uso de la IA en la educación. En este trabajo tuvo como objeto analizar los principios éticos y las normativas internacionales que regulan la implementación de la inteligencia artificial en el ámbito educativo. Como resultados principales se plantea que la IA se presenta como un motor de cambio en la innovación educativa en los procesos de enseñanza y aprendizaje, además algunas de las contribuciones diferenciadoras de la IA en entornos de aprendizaje incluyen el adaptar el entorno de enseñanza al estudiante, mejorando la efectividad de los procesos; proporcionar un mejor apoyo al estudiante a través de una atención más personalizada; ofrecer una mejor evaluación de la utilidad de la información; y facilitar la colaboración. Sin embargo, esta herramienta plantea importantes implicaciones éticas, como la posibilidad de discriminación por parte de la inteligencia artificial, el incumplimiento de las normativas de protección de datos personales, la posible pérdida de derechos por parte del usuario que desconoce las decisiones del sistema, la falta de responsabilidad de la IA por las decisiones tomadas, la adopción de lógicas no deseadas y la falta de sensibilidad hacia temas éticos.

Descargas

Los datos de descargas todavía no están disponibles.

Citas

Abdullah, M. I., Inayati, D., & Karyawati, N. N. (2022). Nearpod use as a learning platform to improve student learning motivation in an elementary school. Journal of Education and Learning (EduLearn), 16(1), 121–129. https://doi.org/10.11591/edulearn.v16i1.20421

Acosta-Enriquez, B. G., Arbulú Ballesteros, M. A., Huamaní Jordan, O., López Roca, C., & Saavedra Tirado, K. (2024). Analysis of college students’ attitudes toward the use of ChatGPT in their academic activities: effect of intent to use, verification of information and responsible use. BMC Psychology, 12(1), 255. https://doi.org/10.1186/s40359-024-01764-z

Alrawashdeh, G. S., Fyffe, S., Azevedo, R. F. L., & Castillo, N. M. (2024). Exploring the impact of personalized and adaptive learning technologies on reading literacy: A global meta-analysis. Educational Research Review, 42, 100587. https://doi.org/10.1016/j.edurev.2023.100587

Aparicio-Gómez, O.-Y., & Aparicio-Gómez, W.-O. (2024a). Innovación educativa con sistemas de aprendizaje adaptativo impulsados por Inteligencia Artificial. Revista Internacional de Pedagogía e Innovación Educativa, 4(2), 343–363. https://doi.org/10.51660/ripie42222

Aparicio-Gómez, O.-Y., & Aparicio-Gómez, W.-O. (2024b). Principios éticos para el uso de la Inteligencia Artificial. Revista Internacional de Desarrollo Humano y Sostenibilidad, 1(1), 73–87. https://doi.org/10.51660/ridhs11202

Aranda-Corral, G. A., Calmet, J., & Martín-Mateos, F. J. (Eds.). (2014). Artificial Intelligence and Symbolic Computation (Vol. 8884). Springer International Publishing. https://doi.org/10.1007/978-3-319-13770-4

Benítez-Restrepo, M. (2020). Cultura académica y enseñanza-aprendizaje en educación superior. Revisión de literatura. Magis, Revista Internacional de Investigación En Educación, 13, 1–23. https://doi.org/10.11144/Javeriana.m13.caea

Benkovič, J., Bohanec, M., Rajkovič, V., & Vrtačnik, M. (1997). Knowledge-Based Evaluation of Higher Education Institutions. IFAC Proceedings Volumes, 30(24), 157–160. https://doi.org/10.1016/S1474-6670(17)42247-6

Bostrom, N., & Yudkowsky, E. (2014). The ethics of artificial intelligence. In The Cambridge Handbook of Artificial Intelligence (pp. 316–334). Cambridge University Press. https://doi.org/10.1017/CBO9781139046855.020

Brown, J. S., & Burton, R. R. (1978). A paradigmatic example of an artificially intelligent instructional system. International Journal of Man-Machine Studies, 10(3), 323–339. https://doi.org/10.1016/S0020-7373(78)80050-9

Caspar, P. (1990). Investing in intelligence? Futures, 22(7), 710–729. https://doi.org/10.1016/0016-3287(90)90028-G

Chalco López, D., Chalco López, C., Villegas Chiluisa, D., & Ordóñez Sotomayor, S. (2023). Inteligencia artificial, una alternativa en la complementariedad escolar. LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 4(3), 1405–1413. https://doi.org/10.56712/latam.v4i3.1170

Chassignol, M., Khoroshavin, A., Klimova, A., & Bilyatdinova, A. (2018). Artificial Intelligence trends in education: a narrative overview. Procedia Computer Science, 136, 16–24. https://doi.org/10.1016/j.procs.2018.08.233

Conill Sancho, J. (2023). Ética discursiva e inteligencia artificial. ¿Favorece la inteligencia artificial la razón pública? Daimon, 90, 115–130. https://doi.org/10.6018/daimon.562371

Cortés-Gonzáles, E., & Royero-Pérez, M. (2020). Aprendizaje cooperativo como estrategia metodológica para el estudio de las Ciencias Sociales. Revista UNIMAR, 38(2), 219–243. https://doi.org/10.31948/Rev.unimar/unimar38-2-art9

Cukurova, M., Kent, C., & Luckin, R. (2019). Artificial intelligence and multimodal data in the service of human decision‐making: A case study in debate tutoring. British Journal of Educational Technology, 50(6), 3032–3046. https://doi.org/10.1111/bjet.12829

Cukurova, M., Luckin, R., & Kent, C. (2020). Impact of an Artificial Intelligence Research Frame on the Perceived Credibility of Educational Research Evidence. International Journal of Artificial Intelligence in Education, 30(2), 205–235. https://doi.org/10.1007/s40593-019-00188-w

Delgado, N., Campo Carrasco, L., Sainz de la Maza, M., & Etxabe-Urbieta, J. M. (2024). Aplicación de la Inteligencia Artificial (IA) en Educación: Los beneficios y limitaciones de la IA percibidos por el profesorado de educación primaria, educación secundaria y educación superior. Revista Electrónica Interuniversitaria de Formación Del Profesorado, 27(1), 207–224. https://doi.org/10.6018/reifop.577211

Duque, F. (2021). David Hume’s Ethical Theory Analysis Questionnaire - Attempt Review. https://es.scribd.com/document/525463415/Cuestionario-de-analisis-de-la-teoria-etica-de-David-Hume-Revision-del-intento

Escobar-Murillo, M. G., Barragán-Murillo, R. de los A., Yáñez-Valle, V. V., & Taco-Sangucho, N. F. (2021). La tecnología como herramienta combinanda para la enseñanza del inglés Technology as a combined tool for teaching English. Revista Científica Multidisciplinaria Arbitrada YACHASUN, 6(9), 1270–1284. https://doi.org/10.23857/pc.v6i9.3109

Fügener, A., Grahl, J., Gupta, A., & Ketter, W. (2022). Cognitive Challenges in Human–Artificial Intelligence Collaboration: Investigating the Path Toward Productive Delegation. Information Systems Research, 33(2), 678–696. https://doi.org/10.1287/isre.2021.1079

Gardner, J., O’Leary, M., & Yuan, L. (2021). Artificial intelligence in educational assessment: ‘Breakthrough? Or buncombe and ballyhoo?’ Journal of Computer Assisted Learning, 37(5), 1207–1216. https://doi.org/10.1111/jcal.12577

Gligorea, I., Cioca, M., Oancea, R., Gorski, A.-T., Gorski, H., & Tudorache, P. (2023). Adaptive Learning Using Artificial Intelligence in e-

Learning: A Literature Review. Education Sciences, 13(12), 1216. https://doi.org/10.3390/educsci13121216

Hatzius, J. (2023). The Potentially Large Effects of Artificial Intelligence on Economic Growth (Briggs/Kodnani). Goldman Sachs. https://www.gspublishing.com/content/research/en/reports/2023/03/27/d64e052b-0f6e-45d7-967b-d7be35fabd16.html

Incio Flores, F. A., Capuñay Sanchez, D. L., Estela Urbina, R. O., Valles Coral, M. Á., Vergara Medrano, E. E., & Elera Gonzales, D. G. (2021). Inteligencia artificial en educación: una revisión de la literatura en revistas científicas internacionales. Apuntes Universitarios, 12(1). https://doi.org/10.17162/au.v12i1.974

Kabudi, T., Pappas, I., & Olsen, D. H. (2021). AI-enabled adaptive learning systems: A systematic mapping of the literature. Computers and Education: Artificial Intelligence, 2, 100017. https://doi.org/10.1016/j.caeai.2021.100017

Lazcoz Moratinos, G. (2020). Análisis de la propuesta de Reglamento sobre los principios éticos para el desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexas. IUS ET SCIENTIA, 6(2), 26–41. https://doi.org/10.12795/IETSCIENTIA.2020.i02.03

Marín García, S. (2019). Ética e inteligencia artificial. https://doi.org/10.15581/018.ST-522

Martín, O., Santaolalla, E., & Urosa, B. (2019). Inteligencias múltiples y su relación con las competencias clave en la etapa de Educación Primaria. Innovación Educativa En La Sociedad Digital, 2019, ISBN 978-84-1324-493-8, Págs. 1503-1514, 1503–1514. https://dialnet.unirioja.es/servlet/articulo?codigo=7648359

Núñez-Naranjo, A., & Chancusig-Toapanta, A. (2022). Technological tools as a trend in secondary education in times of COVID-19: Theoretical review. RISTI - Revista Iberica de Sistemas e Tecnologias de Informacao, 2022(Special Issue E50), 142–154. http://repositorio.uti.edu.ec//handle/123456789/3806

Núñez-Naranjo, A., Luis-Masabanda, J., Morales-Urrutia, E., & Goitia, J. M. G. (2023). Scratch as a Tool to Promote Computational Thinking in Technological Education (pp. 525–533). https://doi.org/10.1007/978-981-99-5414-8_48

Olvera, D., Games, F., Martina, Y., Barragán, M., Cruz, E., & Cortés, E. (2020). Educación 4.0, origen para su fundamentación. Contribuciones de la tecnología digital en el desarrollo educativo y social. https://books.google.com.ec/books?

Paladines Morán, J. N. (2020). Integración de un Sistema de Diálogo con un Sistema Inteligente de Tutoría dirigido al Entrenamiento Procedimental [Universidad Politécnica de Madrid]. https://doi.org/10.20868/UPM.thesis.66047

Pan, S., Hafez, B., Iskandar, A., & Ming, Z. (2024). Integrating constructivist principles in an adaptive hybrid learning system for developing social entrepreneurship education among college students. Learning and Motivation, 87, 102023. https://doi.org/10.1016/j.lmot.2024.102023

Quy, V. K., Thanh, B. T., Chehri, A., Linh, D. M., & Tuan, D. A. (2023). AI and Digital Transformation in Higher Education: Vision and Approach of a Specific University in Vietnam. Sustainability, 15(14), 11093. https://doi.org/10.3390/su151411093

Rodríguez Chávez, M. H. (2021). Sistemas de tutoría inteligente y su aplicación en la educación superior. RIDE Revista Iberoamericana Para La Investigación y El Desarrollo Educativo, 11(22). https://doi.org/10.23913/ride.v11i22.848

Rodríguez, J. (2013). Una mirada a la pedagogía tradicional y humanista. Presencia Universitaria, 3(5), 36–45.

Sánchez, E., & López, J. (2019). Edutecnología y aprendizaje 4.0. . In SOMECE. https://www.google.com.ec/books/edition/Inteligencia_Artiﬁcial_para_la_transfo/G2LoEAAAQBAJ?hl=es&gbpv=1&dq=educaciòn+4.0&pg=PA269&printsec=frontcover

Shneiderman, B. (2020). Human-Centered Artificial Intelligence: Reliable, Safe & Trustworthy. International Journal of Human–Computer Interaction, 36(6), 495–504. https://doi.org/10.1080/10447318.2020.1741118

Syahrizal, S., Yasmi, F., & Mary, T. (2024). AI-Enhanced Teaching Materials for Education: A Shift Towards Digitalization. International Journal of Religion, 5(1), 203–217. https://doi.org/10.61707/j6sa1w36

Tebenkov, E., & Prokhorov, I. (2021). Machine learning algorithms for teaching AI chat bots. Procedia Computer Science, 190, 735–744. https://doi.org/10.1016/j.procs.2021.06.086

UNESCO. (2020). Reunión Global sobre la Educación 2020. New York: UNESCO. https://en.unesco.org/sites/default/files/2020_gem_background_paper_es.pdf

UNESCO. (2023). Identidad e inclusión: historias deportivas de futuros posibles desde el presente mexicano. https://www.unesco.org/es/articles/identidad-e-inclusion-historias-deportivas-de-futuros-posibles-desde-el-presente-mexicano

Villalba, J. F. (2020). Algor-ética: la ética en la inteligencia artificial. Anales de La Facultad de Ciencias Juridicas y Sociales de La Universidad Nacional de La Plata, 50, 062. https://doi.org/10.24215/25916386e062

Zeeshan, K., Hämäläinen, T., & Neittaanmäki, P. (2022). Internet of Things for Sustainable Smart Education: An Overview. Sustainability, 14(7), 4293. https://doi.org/10.3390/su14074293

Zheng, W. (2024). Intelligent e-learning design for art courses based on adaptive learning algorithms and artificial intelligence. Entertainment Computing, 50, 100713. https://doi.org/10.1016/j.entcom.2024.100713