Envía por correo este artículo 
Beneficios y riesgos de la inteligencia artificial en la educacin
Benefits and risks of artificial intelligence in education
Benefcios e riscos da inteligncia artificial na educao
Correspondencia: edwin.palacios@educacion.gob.ec
Ciencias de la Educacin
Artculo de Investigacin
* Recibido: 11 de junio de 2024 *Aceptado: 25 de julio de 2024 * Publicado: 28 de agosto de 2024
I. Investigador Independiente, Ecuador.
II. Unidad Educativa Pedro Agustn Lpez Ramos, Pedernales, Manab, Ecuador.
III. Unidad Educativa Pedro Agustn Lpez Ramos, Pedernales, Manab, Ecuador.
IV. Unidad Educativa Jama, Jama, Manab, Ecuador.
Resumen
La tecnologa de Inteligencia Artificial (IA) est evolucionando rpidamente y trayendo cambios profundos a todos los aspectos de la vida, como lo demuestra el uso generalizado de sistemas de IA generativa como ChatGPT, que lleva esta transformacin a un nivel an ms dramtico. En este contexto, el impacto ms generalizado se produce en el sistema educativo, que, por un lado, necesita urgentemente reestructurar la educacin para hacer frente a los cambios en las habilidades profesionales provocados por la expansin de estos sistemas en el mercado laboral. Surgen preguntas complejas: si estos sistemas deberan integrarse en la educacin y en qu medida, cmo debera integrarse el discurso si est integrado y cmo abordar las cuestiones ticas que surgen de los sistemas de inteligencia artificial. Este estudio evala los posibles beneficios y riesgos potenciales del uso de la inteligencia artificial en la educacin desde la perspectiva de estudiantes y profesores por medio de la revisin sistemtica de investigaciones relevantes sobre los posibles beneficios y riesgos de la inteligencia artificial de varios repositorios acadmicos. Por ello, el estudio analiza las posibles formas de utilizar los sistemas de inteligencia artificial en educacin, as como los riesgos que pueden generar. Adems, el estudio destaca la importancia de incrementar el conocimiento de la inteligencia artificial entre todos los actores de la educacin. Esto muestra que una mayor comprensin de los beneficios y las cuestiones ticas asociadas con los sistemas de inteligencia artificial puede ayudar a mejorar los beneficios educativos de estos sistemas y al mismo tiempo minimizar su dao potencial.
Palabras clave: Inteligencia artificial; educacin; docencia; aprendizaje digital.
Abstract
Artificial Intelligence (AI) technology is evolving rapidly and bringing profound changes to all aspects of life, as evidenced by the widespread use of generative AI systems like ChatGPT, which takes this transformation to an even more dramatic level. In this context, the most widespread impact occurs in the educational system, which, on the one hand, urgently needs to restructure education to cope with the changes in professional skills caused by the expansion of these systems in the labor market. Complex questions arise: whether and to what extent these systems should be integrated into education, how discourse should be integrated if it is integrated, and how to address ethical issues that arise from artificial intelligence systems. This study evaluates the possible benefits and potential risks of using artificial intelligence in education from the perspective of students and teachers by systematically reviewing relevant research on the possible benefits and risks of artificial intelligence from various academic repositories. Therefore, the study analyzes the possible ways of using artificial intelligence systems in education, as well as the risks they may generate. Furthermore, the study highlights the importance of increasing knowledge of artificial intelligence among all educational actors. This shows that a greater understanding of the benefits and ethical issues associated with artificial intelligence systems can help improve the educational benefits of these systems while minimizing their potential harm.
Keywords: Artificial intelligence; education; teaching; digital learning.
Resumo
A tecnologia de Inteligncia Artificial (IA) est a evoluir rapidamente e a trazer mudanas profundas a todos os aspectos da vida, como evidenciado pela utilizao generalizada de sistemas generativos de IA como o ChatGPT, que leva esta transformao a um nvel ainda mais dramtico. Neste contexto, o impacto mais generalizado ocorre no sistema educativo, que, por um lado, necessita urgentemente de reestruturar o ensino para fazer face s mudanas nas competncias profissionais provocadas pela expanso destes sistemas no mercado de trabalho. Surgem questes complexas: se e em que medida estes sistemas devem ser integrados na educao, como o discurso deve ser integrado, se for integrado, e como abordar questes ticas que surgem dos sistemas de inteligncia artificial. Este estudo avalia os possveis benefcios e riscos potenciais do uso da inteligncia artificial na educao na perspectiva de alunos e professores, revisando sistematicamente pesquisas relevantes sobre os possveis benefcios e riscos da inteligncia artificial de vrios repositrios acadmicos. Portanto, o estudo analisa as possveis formas de utilizao de sistemas de inteligncia artificial na educao, bem como os riscos que podem gerar. Alm disso, o estudo destaca a importncia de aumentar o conhecimento da inteligncia artificial entre todos os intervenientes educativos. Isto mostra que uma maior compreenso dos benefcios e das questes ticas associadas aos sistemas de inteligncia artificial pode ajudar a melhorar os benefcios educacionais destes sistemas, minimizando ao mesmo tempo os seus potenciais danos.
Palavras-chave: Inteligncia artificial; educao; ensino; aprendizagem digital.
Introduccin
La tecnologa de inteligencia artificial (IA) se utiliza ampliamente en todos los aspectos de la vida, particularmente en los sistemas de inteligencia artificial generativa como ChatGPT que han provocado transformaciones profundas en los sistemas en diversos campos, llevando a cambios importantes en el mercado laboral y, a su vez, cambiando las dinmicas de reas que van desde la industrial, atencin sanitaria, las finanzas, seguridad y la educacin (Pimentel et al., 2023). Como piedra angular del desarrollo social, la educacin ha experimentado importantes cambios impulsados por los avances tecnolgicos y la inteligencia artificial (IA), que ha permeado todos los aspectos de la educacin, desde la enseanza hasta el aprendizaje (Caldern et al., 2024).
La inteligencia artificial y los sistemas inteligentes basados en datos continan expandindose y complementndose entre s, con el resultado de que los humanos ahora viven en ecosistemas de inteligencia artificial compuestos por dichos sistemas sociotcnicos, llevando estos ecosistemas de IA a la interaccin hombre-mquina a otro nivel (Brinkmann et al., 2023).
Actualmente, se debate sobre los profundos cambios que han introducido los sistemas de IA en la vida, as como sobre los problemas que han causado o pueden causar en un futuro prximo; la proteccin de datos y la privacidad estn en primera lnea de estas discusiones, ya que el desarrollo de estos sistemas por un nmero limitado de instituciones aumenta los riesgos de control dentro del ecosistema de la IA (zer, 2023). Por otra parte, existe un intenso debate sobre la necesidad de que los sistemas de IA tengan en cuenta los valores ticos y morales; de lo contrario, puede dar lugar a otros conflictos sociales como la perpetuacin de sesgos, subrayando que desde la fase de diseo hasta la de implementacin, los sistemas de IA deben tener en cuenta los valores ticos y morales para alinear sus comportamientos con los valores de la sociedad (Stahl, 2023).
Estos cambios tienen un efecto directo y profundo en los sistemas educativos, y este impacto est estrechamente relacionado con la rpida forma en que estos sistemas responden a cambios radicales y permanentes en las habilidades del mercado laboral, que est experimentando cambios importantes, con algunas ocupaciones desapareciendo, otras actualizando las habilidades que requieren e incluso aparecen nuevas ocupaciones en el mercado laboral (Frank et al., 2019).
Los sistemas educativos estn respondiendo a cambios rpidos y profundos en la dinmica del mercado laboral, pero enfrentan ciertos desafos al utilizar estas IA en la educacin y abordar sus complicaciones ticas y de otro tipo. Los sistemas de inteligencia artificial, especialmente los sistemas generativos como ChatGPT, tienen el potencial de transformar fundamentalmente el entorno educativo; este potencial cubre casi todas las reas, desde los cambios en el entorno de aprendizaje hasta el uso de recursos adicionales, desde los procesos de aprendizaje de los estudiantes hasta las polticas de gestin escolar, desde los mtodos de medicin y evaluacin hasta los roles de los docentes en el aula (Chen et al., 2022).
En base a lo expuesto, en este estudio se evaluaron los posibles beneficios y riesgos potenciales del uso de la inteligencia artificial en la educacin y los riesgos que pueden plantear. Por ello, se utiliz un enfoque de investigacin basado en la revisin de la literatura.
Metodologa
Este estudio se ha diseado dentro de la perspectiva de la investigacin cualitativa con una revisin sistemtica de los trabajos e informes sobre los beneficios y riesgos potenciales de la IA en la educacin. Las revisiones sistemticas permiten evaluar los datos e investigaciones anteriores y contribuir a la bibliografa con los ltimos avances para obtener una perspectiva ms completa sobre el tema inters (Chen at al, 2020), fueron considerados los principales estudios que analizan la relacin entre la IA y la educacin en un contexto crtico.
La investigacin utiliz el anlisis de documentos para abarcar el tema, lo que permiti a los investigadores evaluar los estudios cientficos elaborados y los materiales actuales sobre temas relacionados. De este modo, se identifican los beneficios y riesgos potenciales de los sistemas de IA para los estudiantes y profesores.
Resultados de la revisin bibliogrfica
Beneficios de la IA en la educacin
Uno de los potenciales ms importantes de la inteligencia artificial es su capacidad para apoyar el aprendizaje de forma personalizada y adaptativa. En este contexto, los mecanismos de apoyo pueden utilizarse activamente en todos los niveles de la educacin. Dichos sistemas pueden monitorear el proceso de aprendizaje en tiempo real y el estado emocional de cada estudiante para respaldar el aprendizaje personalizado (Solano et al., 2024).
La IA mejora los entornos educativos mucho ms innovadores e interactivos, alejndose de los entornos convencionales con la implementacin de materiales innovadores, disminuye la carga de trabajo docente, con lo que los profesores pueden centrarse ms en el desarrollo personal de cada alumno en el aula, posibilitando de creacin de un entorno de aprendizaje (Rudolph et al., 2023).
La cantidad de ayuda que los estudiantes reciben de los sistemas de IA para preparar trabajos y presentaciones aumenta da a da, y el uso de estos sistemas para tales fines est cada vez ms extendido, especialmente con el soporte de traduccin de idiomas, los estudiantes no slo acceden a materiales educativos de su propio pas, sino que tambin tienen la oportunidad de acceder y traducir materiales de otros pases en este contexto. En otras palabras, no slo se pueden superar las limitaciones de recursos, sino que tambin se incrementa el acceso a recursos compensatorios y de apoyo al desarrollo de las propias carencias del alumno (Chiu, 2023).
Los docentes pueden utilizar activamente la inteligencia artificial para preparar materiales de aprendizaje, crear exmenes, realizar evaluaciones, proporcionar retroalimentacin a los estudiantes, desarrollar escenarios de aprendizaje interactivos e innovadores y aumentar las oportunidades de enseanza personalizada en el aula (Khan et al., 2023). De esta manera, se puede poner un fuerte nfasis en el desarrollo personal de cada estudiante y se pueden poner a disposicin recursos adaptados a su desarrollo no slo en el entorno escolar, sino que la disponibilidad de inteligencia artificial fuera del aula puede mejorar el apoyo a la enseanza en el aula. ambiente extraescolar. Los profesores, por otro lado, son cada vez ms capaces de utilizar activamente los sistemas de inteligencia artificial, realizando diversas tareas, desde asignar tareas hasta generar preguntas (Grassini, 2023).
Riesgos de la IA en la educacin
A pesar de las ventajas, los docentes sealaron varios desafos al integrar la IA en la educacin, uno de los principales obstculos es la falta de formacin adecuada para el uso efectivo de estas tecnologas, ya que muchos docentes sienten que no poseen las habilidades necesarias para implementar herramientas de IA de manera eficiente. Adems, existe una preocupacin generalizada sobre la equidad en el acceso a estas tecnologas; no todos los estudiantes tienen el mismo acceso a dispositivos y conexin a internet, lo que puede agravar las desigualdades existentes, las disparidades en la alfabetizacin digital, tanto entre pases como dentro de cada pas, y adems, las desigualdades en el acceso a las tecnologas digitales, harn que solo un segmento de la sociedad se beneficie de las ventajas que ofrecen estos sistemas (Caldern et al., 2024).
Es de vital importancia salvaguardar los datos generados tanto para los alumnos como para los profesores durante el uso activo de los sistemas de IA en la educacin, el compromiso y el uso indebido de estos datos para fines no educativos plantean mayores riesgos (Kasneci et al., 2023).
Otro desafo importante es la privacidad y la tica del uso de datos, ya que la IA requiere grandes cantidades de datos para funcionar de manera efectiva, y la recopilacin y el uso de estos datos plantea preocupaciones sobre la privacidad de los estudiantes. Las instituciones educativas deben implementar una poltica de uso de datos clara y transparente y garantizar el cumplimiento de la legislacin de proteccin de datos (Marshall et al., 2022). La tica de la IA en la educacin tambin es un tema de creciente preocupacin, la implementacin de la IA en la educacin debe ser acompaada de un marco tico slido que garantice que estos sistemas se utilicen de manera justa, equitativa y transparente (Borenstein et al., 2017).
La IA afecta profundamente a los procesos de aprendizaje y educacin, tanto de alumnos como de profesores, considerando que transferir toda la carga a estos sistemas artificiales, en lugar de ser ayudas de apoyo, tiene efectos negativos en el desarrollo de los estudiantes, la adquisicin de habilidades, el pensamiento crtico, la capacidad de resolver problemas y las habilidades de investigacin y pensamiento. Por otra parte, se advierte de que los exmenes elaborados ntegramente por estos sistemas pueden no cumplir plenamente los objetivos de aprendizaje, lo que puede dar lugar a deficiencias en los resultados del aprendizaje (Shiri, 2023).
Discusin
Los sistemas de IA afectan profundamente a diversos aspectos de la vida, provocando transformaciones radicales a medida que se generaliza su uso y uno de los mbitos con mayor potencial es la educacin. Los sistemas educativos no slo se enfrentan al reto de responder rpidamente a las nuevas demandas de cualificacin en los mercados laborales debido a la proliferacin de los sistemas de IA y la automatizacin, sino que tambin lidian con la cuestin de cmo integrar tica y eficazmente los sistemas de IA en los sistemas educativos existentes (zer, 2023).
Aunque la IA ha mostrado un efecto beneficioso en la educacin, tambin hay retos y preocupaciones que es necesario atender, entre estos se encuentran la privacidad y seguridad de los datos de los estudiantes, la equidad en el acceso a las tecnologas de IA y la necesidad de formar a los docentes en el uso de estas herramientas (Vera, 2023). Adems, es crucial considerar el impacto emocional y social de la IA en el entorno escolar y garantizar que estas tecnologas se implementen de manera tica y responsable, el enfoque de la IA debera estar integrada en el sistema educativo de manera eficiente, promoviendo la igualdad y, lo ms importante, hacerlo de manera tica. (Silva et al., 2024).
El uso rpido y generalizado de ChatGPT, especialmente entre los estudiantes, poco despus de su introduccin, requiere medidas urgentes para mejorar su uso efectivo y aliviar los riesgos potenciales; quienes utilicen estos sistemas no solo tendrn ventajas durante su trayectoria educativa, adems, al ingresar al mercado laboral, estarn mucho ms aventajados en comparacin con quienes no los utilicen (Crawford et al., 2023).
El papel de los docentes est evolucionando gradualmente hacia la gestin de procesos, incluso la carga de trabajo, por tal motivo la transicin de la enseanza convencional a nuevos enfoques es especialmente difcil para los docentes. Si bien se espera que los docentes incorporen estos sistemas al entorno de aprendizaje de manera interactiva e innovadora, tambin deben apoyar de manera activa y adaptativa el desarrollo de cada estudiante, pudiendo supervisar y hacer un seguimiento activo del grado en que cada estudiante completa las tareas y proyectos con la ayuda de estos sistemas (zer, 2023).
Por lo tanto, las responsabilidades de los docentes han aumentado significativamente, garantizando que esta evolucin se lleve a cabo de manera correcta y rpida puede evitar conceptos errneos sobre la inadecuacin del papel del docente y, en ltima instancia, evitar recortes en el empleo debido al cuestionamiento de la necesidad de docentes (Chiu, 2023).
Conclusiones
Al abordar los riesgos y beneficios de estas tecnologas, se puede trabajar para crear un entorno educativo ms equitativo y eficiente, por lo que de cara al futuro, las instituciones educativas deben adoptar un enfoque proactivo mientras se enfrentan a la necesidad de repensar los roles tradicionales de los educadores en este nuevo contexto tecnolgico.
La IA tiene el potencial de transformar radicalmente la educacin, ofreciendo oportunidades para un aprendizaje ms personalizado, eficiente e inclusivo. Sin embargo, para aprovechar plenamente estos beneficios, es esencial abordar de manera proactiva los riesgos y desafos asociados con la IA en la educacin. Esto incluye garantizar la equidad y la justicia en el uso de la IA, proteger la privacidad y la seguridad de los datos, y desarrollar un marco tico robusto que gue la implementacin de estas tecnologas.
La alfabetizacin en IA y la conciencia sobre sus beneficios y desafos deben ser promovidas entre todos los interesados en la educacin. Al hacerlo, se puede crear un entorno educativo ms preparado para integrar la IA de manera efectiva y tica, mejorando as los resultados educativos y preparando a los estudiantes para un futuro en el que la IA jugar un papel cada vez ms importante.
Referencias
1. Borenstein, J., Howard, A., & Miller, K. W. (2017). The ethics of artificial intelligence in education. International Journal of Artificial Intelligence in Education, 27(4), 581-599.
2. Brinkmann, L., Baumann, F., Bonnefon, J. F., Derex, M., Mller, T. F., Nussberger, A. M., ... & Rahwan, I. (2023). Machine culture. Nature Human Behaviour, 7(11), 1855-1868. https://doi.org/10.1038/s41562-023-01742-2
3. Caldern Figueroa, C. D., Marn Loor, R. A., Daz Campozano, E. G., & Proao Molina, M. Y. (2024). Inteligencia artificial en la educacin superior. Dominio De Las Ciencias, 10(3), 753763. https://dominiodelasciencias.com/ojs/index.php/es/article/view/3952
4. Chen, L., Chen, P., & Lin, Z. (2020). Artificial intelligence in education: A review. Ieee Access, 8, 75264-75278. https://doi.org/10.1109/ACCESS.2020.2988510
5. Chen, X., Zou, D., Xie, H., Cheng, G., & Liu, C. (2022). Two decades of artificial intelligence in education. Educational Technology & Society, 25(1), 28-47. https://www.jstor.org/stable/48647028
6. Chiu, T. K. (2023). The impact of Generative AI (GenAI) on practices, policies and research direction in education: A case of Chat Crawford and Midjourney. Interactive Learning Environments, 1-17. https://doi.org/10.1080/10494820.2023.2253861
7. Crawford, J., Cowling, M., & Allen, K. A. (2023). Leadership is needed for ethical ChatGPT: Character, assessment, and learning using artificial intelligence (AI). Journal of University Teaching & Learning Practice, 20(3), 02. https://doi.org/10.53761/1.20.3.02
8. Frank, M. R., Autor, D., Bessen, J. E., Brynjolfsson, E., Cebrian, M., Deming, D. J., ... & Rahwan, I. (2019). Toward understanding the impact of artificial intelligence on labor. Proceedings of the National Academy of Sciences, 116(14), 6531-6539. https://doi.org/10.1073/pnas.1900949116
9. Grassini, S. (2023). Shaping the future of education: exploring the potential and consequences of AI and ChatGPT in educational settings. Education Sciences, 13(7), 692. https://doi.org/10.3390/educsci13070692
10. Kasneci, E., Seler, K., Kchemann, S., Bannert, M., Dementieva, D., Fischer, F., ... & Kasneci, G. (2023). ChatGPT for good? On opportunities and challenges of large language models for education. Learning and individual differences, 103, 102274. https://doi.org/10.1016/j.lindif.2023.102274
11. Khan, R. A., Jawaid, M., Khan, A. R., & Sajjad, M. (2023). ChatGPT-Reshaping medical education and clinical management. Pakistan journal of medical sciences, 39(2), 605. https://10.12669/pjms.39.2.7653
12. Marshall, R., Pardo, A., Smith, D., & Watson, T. (2022). Implementing next generation privacy and ethics research in education technology. British Journal of Educational Technology, 53(4), 737-755. https://doi.org/10.1111/bjet.13224
13. zer, M. (2023). Potential Benefits and Risks of Artificial Intelligence in Education. Bartın University Journal of Faculty of Education, 13(2), 232-244. https://doi.org/10.14686/buefad.1416087
14. Pimentel, J. F. F., Arenas, R. D., Mendoza, A. S. C., Meza, L. C. F., Contreras, J. L. M., & Pimentel, D. E. F. (2023). Uso de la Inteligencia Artificial en Estudiantes Universitarios. Ciencia Latina Revista Cientfica Multidisciplinar, 7(6), 4458-4470. https://doi.org/10.37811/cl_rcm.v7i6.9012
15. Rudolph, J., Tan, S., & Tan, S. (2023). ChatGPT: Bullshit spewer or the end of traditional assessments in higher education?. Journal of applied learning and teaching, 6(1), 342-363. https://doi.org/10.37074/jalt.2023.6.1.9
16. Shiri, A. (2023). ChatGPT and academic integrity. Information Matters, 3(2).
17. Silva, A. V. C., Patio, A. C. M., & lava, S. P. C. (2024). Desafos de la Educacin frente a la Inteligencia artificial. Polo del Conocimiento, 9(6), 1956-1969.
18. Solano-Barliza, A. D., Ojeda, A. D., & Aarn-Gonzalvez, M. (2024). Anlisis cuantitativo de la percepcin del uso de inteligencia artificial ChatGPT en la enseanza y aprendizaje de estudiantes de pregrado del caribe colombiano. Formacin universitaria, 17(3), 129-138. http://dx.doi.org/10.4067/s0718-50062024000300129
19. Stahl, B. C. (2023). Embedding responsibility in intelligent systems: from AI ethics to responsible AI ecosystems. Scientific Reports, 13(1), 7586. https://doi.org/10.1038/s41598-023-34622-w
20. Vera, F. (2023). Integracin de la Inteligencia Artificial en la Educacin superior: Desafos y oportunidades. Transformar, 4(1), 17-34. https://www.revistatransformar.cl/index.php/transformar/article/view/84
2024 por los autores. Este artculo es de acceso abierto y distribuido segn los trminos y condiciones de la licencia Creative Commons Atribucin-NoComercial-CompartirIgual 4.0 Internacional (CC BY-NC-SA 4.0)
(https://creativecommons.org/licenses/by-nc-sa/4.0/).
Enlaces de Referencia
- Por el momento, no existen enlaces de referencia
Polo del Conocimiento
Revista Científico-Académica Multidisciplinaria
ISSN: 2550-682X
Casa Editora del Polo
Manta - Ecuador
Dirección: Ciudadela El Palmar, II Etapa, Manta - Manabí - Ecuador.
Código Postal: 130801
Teléfonos: 056051775/0991871420
Email: polodelconocimientorevista@gmail.com / director@polodelconocimiento.com
URL: https://www.polodelconocimiento.com/
