Enfoque
Introducción
En la era digital actual, el interés de la comunidad académica por los avances en Inteligencia Artificial (IA) y sus implicaciones éticas en la educación superior ha experimentado un crecimiento notable. La utilización extendida de tecnologías generativas de texto por parte de estudiantes evidencia una necesidad crítica de evaluar su impacto en la integridad académica y el plagio. Este escenario plantea desafíos y oportunidades únicas para la configuración del conocimiento y los procesos educativos en las instituciones de educación superior.
Objetivos
Este estudio tiene como objetivo principal clarificar la agenda de investigación sobre la IA en la educación superior, con un enfoque específico en la integridad académica y los desafíos éticos. Busca identificar y discutir las principales tendencias, temas emergentes y oportunidades de publicación en este campo. Adicionalmente, pretende proporcionar un marco analítico que asista a los académicos, responsables de políticas educativas y editores de revistas en la comprensión y dirección de estas cuestiones críticas.
Metodología
Para alcanzar los objetivos propuestos, se realizó un análisis bibliométrico de 254 artículos científicos publicados en revistas de alto impacto indexadas en el Journal Citation Reports (JCR), utilizando VOSviewer 1.6.18 y WordStat 2023.1. Se identificaron agrupaciones temáticas y se evaluó la eficiencia académica a través del Impacto Normalizado por Documento (NID) y el Impacto Normalizado por Año (NIY), considerando los principales países productores de investigación y las tendencias de publicación después de 2020.
Resultados
El análisis reveló cuatro clusters temáticos principales y doce temas emergentes, destacando la importancia de la personalización del proceso de aprendizaje y el uso ético de herramientas de IA. Se observó un incremento significativo en el promedio de Impacto Normalizado por Año (NIY) después de 2020, sugiriendo un creciente interés y reconocimiento en el campo de estudio. Además, se identificaron importantes oportunidades de publicación para académicos y orientaciones para editores sobre brechas de investigación no cerradas.
Conclusiones
Este estudio contribuye a la comprensión de la compleja interacción entre IA y educación superior, enfatizando la necesidad de abordar los desafíos éticos y mantener la integridad académica. Los hallazgos soportan el diseño de políticas estratégicas y la implementación de prácticas educativas innovadoras que aprovechen las capacidades de la IA, promoviendo un uso ético y responsable. La evidencia sugiere que tanto autoridades universitarias como SoTLs deben considerar estos resultados para adaptarse y evolucionar en el dinámico entorno educativo actual.
Agradecimientos
Esta comunicación es un resultado académico de la estancia de investigación de Fernando Castelló-Sirvent y Vanessa Roger-Monzó en el NECE Research Center in Business Sciences de la Universidade da Beira Interior (Portugal).
Maria Alejandra Millán Franco
Comentó el 14/04/2024 a las 23:22:50
Buenas tardes,
enhorabuena por su trabajo. El aspecto ético es completamente pertinente en este caso, y comparto la opinión de los autores, pues creo que es al mismo tiempo una gran oportunidad. En la relación enseñanza-aprendizaje la IA, puede abrir las puertas para que la enseñanza se enfoque en los cómo y los por qué, abre vías a que el aprendizaje se pueda potencializar a traves de la curiosidad y en la indagacion
Maria Alejandra Millán Franco
Comentó el 14/04/2024 a las 23:24:44
*Indagación sobre el conocimiento. Así que es muy interesante cómo puede la ética articularse con estos nuevos procesos de aprendizaje colaborativo a través de la IA.
Vanessa Roger Monzó
Comentó el 15/04/2024 a las 12:52:38
Gracias. Saludos.
Cristal Fonseca Bojórquez
Comentó el 13/04/2024 a las 19:04:39
Buen día, muchas felicidades por su ponencia.
¿Cuáles son las estrategias más efectivas que las instituciones de educación superior pueden implementar para promover el uso ético de la inteligencia artificial en el aprendizaje personalizado?
Vanessa Roger-Monzó
Comentó el 14/04/2024 a las 20:57:59
Buenas tardes, Cristal. La alfabetización de la comunidad académica y un marco normativo que sancione usos de baja integridad, de forma análoga a plagio previo a la IA son algunas de las estrategias. En este caso, se complica la gestión por una dificultad manifiesta al identificar por medio de algoritmos eficientes cuándo un texto ha sido generado por IA y no es de autoría humana. En este sentido, conocer la evolución del alumno puede ayudar a identificar si mantiene la integridad académica en sus trabajos. Más allá del plagio, la colaboración con instituciones gubernamentales que propicien regulaciones específicas y campañas que difundan el uso ético de la IA (deepfakes, deepvoice, etc.) es necesaria a largo plazo.
Mónica Liliana Rivera-Obregón
Comentó el 13/04/2024 a las 15:33:11
Buen día!!! Extenderle mi ma sinceras felicitaciones por su presentación y tema tan interesante. He aprendido bastante. Una pregunta ¿Cómo en todo el proceso de investigación implicita y explicitamente asumieron la ética durante el desarrollo al estar utilizando las herramientas de las IA?
Saludos cordiales
Vanessa Roger Monzó
Comentó el 15/04/2024 a las 12:51:51
Buenos días, Mónica. Dado que es un estudio bibliométrico se asumió la búsqueda de publicaciones sobre Inteligencia Artificial, Educación Superior e integridad académica.
Saludos.
Luis Mayo Vega
Comentó el 12/04/2024 a las 17:44:57
Enhorabuena por vuestro trabajo, os quería preguntar ¿Qué medidas consideras que podrían implementarse para garantizar un uso ético de las tecnologías generativas de texto por parte de los estudiantes en un entorno académico, especialmente en lo que respecta a la originalidad y autenticidad del trabajo académico en sus trabajos fin de grado, trabajos fin de Máster y en sus tesis doctorales?. Muchas gracias
Vanessa Roger-Monzó
Comentó el 14/04/2024 a las 21:01:22
Muchas gracias. La alfabetización de la comunidad académica y un marco normativo que sancione usos de baja integridad, de forma análoga a plagio previo a la IA son algunas de las estrategias. Se complica la gestión por una dificultad manifiesta al identificar por medio de algoritmos eficientes cuándo un texto ha sido generado por IA y no es de autoría humana. En este sentido, conocer la evolución del alumno puede ayudar a identificar si mantiene la integridad académica en sus trabajos. Además, puede modificarse la forma de evaluar y la estructura de los TFG o TFM. Incrementar el peso de la valoración de los trabajos en la defensa de los mismos y calificar su capacidad crítica para responder preguntas sobre los mismos, podría determinar el dominio real de un alumno sobre el tema de su trabajo.
Un saludo.
Carmen Pérez González
Comentó el 12/04/2024 a las 17:40:52
Buenas tardes, enhorabuena por vuestra ponencia y muchas gracias Fernando por la pregunta que nos has realizado tan pertinente en nuestra ponencia, creo que ya has respondido en las anteriores respuestas pero ahí va mi pregunta ¿Cómo crees que la integración de la Inteligencia Artificial en la educación superior puede influir en la forma en que se abordan los conceptos de integridad académica y plagio en las instituciones educativas?
Carmen Pérez González
Comentó el 12/04/2024 a las 17:39:35
Buenas tardes muchas gracias Fernando por la pregunta que me ha realizado en nuestra ponencia creo que más o menos ya lo has explicado pero ahí va nuestra
Hernando Rodriguez Zambrano
Comentó el 12/04/2024 a las 17:06:07
Cordial saludo. Felicitaciones. La ponencia cubre un tema de actualidad específicamente el del manejo ético de la IA, por lo que pregunto si ¿existe actualmente un instrumento que pueda medir el nivel de inclusión de la IA en la producción científica y qué pueda mostrarse como plagio? Muchas gracias.
Vanessa Roger-Monzó
Comentó el 14/04/2024 a las 20:50:38
Gracias por la pregunta. Existen algunas herramientas, pero su baja tasa de precisión con un elevado porcentaje de falsos positivos y falsos negativos, junto con el perfeccionamiento de los sucesivos modelos de IA dificulta la detección de contenido no generado por humanos. La progresiva evolución de la IA supone que sea muy difícil la detección de contenido generado por la IA.
Un saludo.
Gregorio Izquierdo Llanes
Comentó el 12/04/2024 a las 12:04:38
Estimados Fernando, Vanesa y Ricardo:
Felicitaros por vuestra ponencia, que me parece del máximo nivel. La variante ética es una condición obligada para el desarrollo de la IA. Me ha parecido muy interesante la metodología basada en bibliometría, ya que es un ámbito donde la disponibilidad de información masiva abierta es relativamente factible. Reiterando mis felicitaciones
Vanessa Roger-Monzó
Comentó el 14/04/2024 a las 20:51:08
Muchas gracias por sus observaciones.
Aarón Martínez Martín
Comentó el 12/04/2024 a las 11:06:33
Enhorabuena por la presentación, una alegría por volver a encontrarnos en un congreso. Tengo curiosidad por saber cuáles son las mayores preocupaciones (plagio, autorrealización de trabajos, suplantación…) por parte de las instituciones educativas sobre la IA o si esto ya ha sido estudiado.
Por otro lado, también me aguantaría saber cuáles son las principales líneas de trabajo actuales en este ámbito de educación superior e IA a nivel académico.
Muchas gracias y saludos
Vanessa Roger Monzó
Comentó el 12/04/2024 a las 11:36:04
Gracias a Aarón. Las principales preocupaciones por parte de las de las instituciones educativas sobre la IA es la ética y responsabilidad en su uso, que engloba, especialmente, aspectos como el plagio y autorrealización de trabajos, porque el alumno puede generar contenido automáticamente, un factor que socavaría el proceso de aprendizaje y la adquisición de habilidades. Estas preocupaciones han sido y todavía son objeto de estudio. Los académicos están explorando diversas estrategias para abordar estos desafíos, incluyendo el desarrollo de herramientas de detección de plagio específicas para el contenido generado por IA (aunque siempre van por detrás) y los cambios en las metodologías docentes y procesos de evaluación por parte de los profesores.
Las principales líneas de trabajo actuales en este ámbito de educación superior e IA a nivel académico son diversas como la personalización del aprendizaje y tutorías inteligentes, entre otras.
Un saludo.
Francisco Cabrera-Gallardo
Comentó el 11/04/2024 a las 23:46:50
Enhorabuena por la excelente ponencia. ¿Cómo creen que pueden las universidades gestionar el buen uso ético de la IA? Gracias.
Fernando Castelló-Sirvent
Comentó el 12/04/2024 a las 10:44:01
Estimado Francisco:
Muchas gracias por su feedback. En respuesta a su pregunta, una vía de gestión puede venir por la alfabetización de la comunidad académica en su contexto, sin perjuicio de un marco normativo que sancione usos de baja integridad, de forma análoga a plagio previo a la IA. En este caso, se complica la gestión por una dificultad manifiesta al identificar por medio de algoritmos eficientes cuándo un texto ha sido generado por IA y no es de autoría humana.
Un cordial saludo.
José Luis Martínez Blanco
Comentó el 11/04/2024 a las 23:09:15
Enhorabuena por su ponencia, desde luego coincido en que el desarrollo de la IA debe ir de la mano de los desafíos éticos correspondientes. Mi pregunta es: ¿existe algún paralelismo en la historia de un descubrimiento a la altura de la IA y su desarrollo ético? tal vez se le pareciera algo la revolución industrial con la consecuente destrucción de puestos de trabajo en las fábricas por ejemplo, o también podría ser la aparición y democratización de internet. Un saludo.
Vanessa Roger Monzó
Comentó el 12/04/2024 a las 10:39:56
Gracias por su observación, José Luis. Efectivamente, creemos que existen paralelismos en la historia. Señala la revolución industrial con la consecuente destrucción de puestos de trabajo.
Consideramos que podemos encontrar un interesante paralelismo con el desarrollo de la IA y su evolución ética en el descubrimiento y desarrollo de la energía nuclear. Del mismo modo que la IA, la energía nuclear presentó enormes oportunidades y desafíos éticos desde su descubrimiento. Inicialmente, se celebró como un avance revolucionario con aplicaciones en medicina, energía y ciencia. Sin embargo, su potencial destructivo también planteó dilemas éticos sobre la proliferación de armas nucleares y los riesgos para la seguridad global (mi especialidad es la Comunicación Audiovisual y opino que la película Oppenheimer ilustra perfectamente esta circunstancia). Al igual que la IA, la energía nuclear generó debates sobre la responsabilidad ética en su desarrollo y uso. Se necesitaron políticas internacionales, regulaciones y acuerdos para abordar los dilemas éticos que presentaba y garantizar un uso seguro y responsable. Con respecto a la IA, la comunidad internacional está trabajando para establecer normas éticas y regulaciones en torno a esta tecnología. Por tanto, la historia de la energía nuclear ofrece un paralelismo que podemos aprovechar, ya que nos brindó lecciones relevantes sobre la importancia de abordar los aspectos éticos desde las etapas tempranas de desarrollo de una tecnología.
Respecto a la destrucción de empleos, a diferencia de las revoluciones industriales anteriores, en este caso, la IA presenta un enfoque transversal a todos los sectores, y no sólo se circunscribe a trabajos físicos o de desempeño manual, sino que es susceptible de impactar sobre las actividades de la economía del conocimiento.
Un saludo.
María Vázquez Fariñas
Comentó el 11/04/2024 a las 18:19:03
Buenas tardes:
Enhorabuena por el trabajo. Todos los agentes participantes en el proceso de enseñanza-aprendizaje hemos de adaptarnos al nuevo entorno educativo actual para lograr aprovechar al máximo las ventajas que ofrece la IA. Pero ello también acarrea serios problemas o inconvenientes. Si tuvierais que elegir solo uno: ¿cuál diríais que es el principal inconveniente a la hora de abordar los desafíos éticos y mantener la integridad académica?
Saludos.
Vanessa Roger Monzó
Comentó el 12/04/2024 a las 10:54:49
Muchas gracias, María. Planteas una pregunta muy interesante.
Si tuviéramos que escoger un único riesgo de la IA a la hora de abordar los desafíos éticos y mantener la integridad académica sería el riesgo del sesgo algorítmico, es decir, la tendencia de los algoritmos de IA a generar resultados influenciados por prejuicios o desigualdades presentes en los datos con los que fueron entrenados.
El sesgo algorítmico puede perpetuar y amplificar las desigualdades existentes en el sistema educativo, comprometiendo así la integridad académica. Por ello, es necesario la colaboración de investigadores, docentes, desarrolladores de tecnología y responsables políticos para desarrollar regulaciones éticas sólidas.
Un saludo.
María Vázquez Fariñas
Comentó el 12/04/2024 a las 17:37:17
Muchas gracias por la respuesta, Vanessa. Coincido contigo en que esto es trabajo de todos los agentes implicados en el proceso, por lo que es fundamental la colaboración entre ellos.
Un saludo.
Juan Miguel Ahumada Cervantes
Comentó el 11/04/2024 a las 17:55:32
Felicidades por su ponencia. Mi comentario al respecto seria el siguiente: ¿Cómo pueden las instituciones de educación superior equilibrar la enseñanza de la ética en inteligencia artificial con la promoción de la innovación y el avance tecnológico?
Fernando Castelló-Sirvent
Comentó el 12/04/2024 a las 10:46:21
Muchas gracias por su comentario, Juan Miguel. Como se ha comentado anteriormente en el foro, estamos en un punto clave del desarrollo de la tecnología y, si bien la identificación de autorías humanas vs. autorías no humanas tiene importantes limitaciones en su configuración actual (ofreciendo un alto índice de falsos positivos), los próximos años van a permitir que las autoridades universitarias encajen su ordenamiento normativo al objeto de no frenar el desarrollo tecnológico y su impacto sobre la innovación.
Un saludo.
Deja tu comentario
Lo siento, debes estar conectado para publicar un comentario.
Organizan
Colaboran
Configuración de Cookies
Utilizamos cookies para mejorar su experiencia y las funcionalidades de esta web. Ver política de cookies