S04-05 17

Tendencias y Desafíos en la Implementación de la Inteligencia Artificial en la Educación: Sesgo y Aprendizaje con Chat GPT

Compartir en TWITTER/FACEBOOK/LINKEDIN

Deja tu comentario

Participa en esta ponencia enviádole tu pregunta o comentario a los autores

Añadir comentario

Firmantes

profile avatar
Eglée Ortega FernándezUniversidad Complutense de Madrid
profile avatar
Jonattan Rodríguez HernándezUniversidad Complutense de Madrid

Enfoque

Con el aumento en la adopción de sistemas de inteligencia artificial, como el Chat GPT, en la educación, es crucial examinar la presencia de sesgo en estos sistemas y su posible influencia en el aprendizaje de los estudiantes. Este estudio se enfoca en analizar el sesgo en la Inteligencia Artificial y su repercusión en la calidad del aprendizaje de los estudiantes que utilizan Chat GPT como herramienta educativa.

Como objetivos principales nos planteamos evaluar la existencia de sesgo en los modelos de lenguaje de Chat GPT en contextos educativos; investigar cómo el sesgo en la IA puede influir en el aprendizaje de los estudiantes y proponer posibles estrategias para mitigar el sesgo y mejorar la utilidad de Chat GPT en la educación.

Para lograr los objetivos establecidos se recopilaron y analizaron conversaciones generadas por Chat GPT en entornos educativos, con énfasis en la detección de posibles sesgos, se administraron encuestas a estudiantes que utilizan Chat GPT para evaluar su percepción sobre el contenido generado y su experiencia de aprendizaje y se realizaron entrevistas con docentes que utilizan Chat GPT en sus clases para comprender su punto de vista sobre el sesgo y su impacto en el aprendizaje, y finalmente se analizaron ejemplos específicos de conversaciones generadas por Chat GPT para identificar patrones de sesgo.

En los resultados se identificaron indicios de sesgo en los modelos de lenguaje de Chat GPT utilizados en contextos educativos, que podrían manifestarse en respuestas discriminatorias o estereotipadas. Los estudiantes mostraron preocupación por la influencia de la IA en su aprendizaje, especialmente cuando los resultados parecían reflejar prejuicios o sesgos. Mientras que los docentes expresaron inquietudes sobre la confiabilidad y la calidad de las respuestas generadas por Chat GPT, lo que podría afectar negativamente la experiencia de aprendizaje.

A manera de conclusión podríamos decir el sesgo en la Inteligencia Artificial utilizada en entornos educativos es una preocupación válida que puede influir en el aprendizaje de los estudiantes. Es esencial abordar este sesgo para garantizar que la IA sea una herramienta efectiva y ética en la educación. La detección y mitigación del sesgo, así como la mejora de la calidad de las respuestas generadas por Chat GPT, son pasos necesarios para aprovechar plenamente el potencial de la IA en el aprendizaje.

Preguntas y comentarios al autor/es

Hay 17 comentarios en esta ponencia

    • profile avatar

      Santa Palella Stracuzzi

      Comentó el 09/12/2023 a las 17:19:09

      Buenas tardes María Inmaculada,
      Muy buena ponencia¡
      Considera que la IA (Chat_GPT) puede generar un aprendizaje significativo en los estudiantes? ¿Cuáles estrategias se deberían implementar para lograrlo?

    • profile avatar

      María Inmaculada Jiménez Perona

      Comentó el 30/11/2023 a las 10:29:06

      Buenos días, el tema que planteáis me es de gran interés y me ayudaría en mi actual investigación. ¿Cómo podemos acceder al cuestionario realizado al alumnado y las entrevistas realizadas al profesorado? ¿Me podríais indicar el volumen de la muestra realizada a ambos? Gracias

      • profile avatar

        Jonattan Rodríguez Hernández

        Comentó el 30/11/2023 a las 12:24:14

        Buenas, María Inmaculada. Gracias por tu comentario e interés. Actualmente, estamos en el proceso de revisión final de los datos recolectados y expuestos. Todavía no podemos compartir públicamente los materiales específicos del estudio, incluyendo los cuestionarios y entrevistas. En cuanto al volumen de la muestra, se ha buscado un equilibrio entre un tamaño de muestra representativo y la viabilidad logística del estudio. Sin embargo, para proporcionar detalles específicos sobre el número de participantes y la demografía de la muestra, le recomendamos leer el capítulo final que se publicará en breve.

        Muchas gracias de nuevo, un saludo.

    • profile avatar

      Miguel Angel Fernández Jiménez

      Comentó el 30/11/2023 a las 10:14:49

      Buenos días, enhorabuena por la investigación que habéis llevado a cabo y por habernos traído esta información que para los que estamos investigando en este campo, nos puede ayudar a arrojar un poco de más luz al tema.
      Me gustaría realizarles una pregunta la respecto de su investigación. Plantean como objetivo el de evaluar la existencia de sesgo en los modelos de lenguaje de Chat GPT en contextos educativos, y por lo que entiendo ya parten de la idea de que Chat GPT es usado por los estudiantes. ¿Tienen evidencias científicas que corroboren que realmente los estudiantes utilizan esta herramienta? Es decir, ¿han realizado alguna investigación previa o han encontrado artículos científicos que avalen que los estudiantes usan esta herramienta? Si es así, ¿podrían facilitarnos datos al respecto?
      Muchas gracias por el tiempo y por compartir con nosotros el trabajo realizado.

      • profile avatar

        Jonattan Rodríguez Hernández

        Comentó el 30/11/2023 a las 12:19:33

        Buenas, Miguel Ángel. Muchas gracias por tu comentario y preguntas. Sobre nuestro objetivo, en las asignaturas que impartimos realizamos varias tareas en las que instamos a usar ChatGPT en el proceso, por ello, sabemos que la herramienta es empleada por los alumnos. Al ser un estudio de caso, no partimos de la base científica del uso estandarizado de ChatGPT en el alumnado. Estoy seguro que un futuro estas investigaciones serán una realidad.

        Gracias de nuevo por la pregunta, un saludo.

    • profile avatar

      David Zatz Correia

      Comentó el 30/11/2023 a las 00:05:57

      Muy interesante vuestro trabajo.
      Teniendo en cuenta el momento actual, el plagio es una gran preocupación, ya que herramientas como ChatGPT tienen una escritura similar a la humana y no es fácil darse cuenta cuando una tarea o estudio fue hecho realmente por el estudiante o por la herramienta. Sé que no es el foco del estudio, pero me gustaría saber qué opinan sobre maneras de disminuir esta preocupación con respecto a estas herramientas. Agradezco de antemano la respuesta.

      • profile avatar

        Jonattan Rodríguez Hernández

        Comentó el 30/11/2023 a las 12:11:59

        Muchas gracias por tu comentario y reflexión, David. Realmente, es algo que estamos viviendo en primera persona en todas las instituciones educativas. Como comentas, las herramientas actuales no cuentan con la precisión necesaria para asegurar que la escritura esté realizada por una inteligencia artificial. Las posibles soluciones a esto son complejas, se nos ocurre la potenciación del pensamiento crítico y la creatividad, evaluaciones personalizadas y orales o incluso que la enseñanza adopte a la IA y sea parte del proceso de evaluación.

        Gracias de nuevo, un saludo.

    • profile avatar

      Isabel Macho de Cos

      Comentó el 29/11/2023 a las 14:30:41

      Enhorabuena Eglée y Jonattan por vuestro trabajo, me parece un tema de gran relevancia y sin duda un planteamiento fundamental para comprender qué desafíos tenemos en la sociedad digitalizada. Me gustaría plantearos unas cuestiones: ¿Cómo se lleva a cabo la metodología? ¿Cómo analizáis la información recogida a través de las entrevistas?

      Muchas gracias por vuestro trabajo,
      Un cordial saludo.

      • profile avatar

        Jonattan Rodríguez Hernández

        Comentó el 29/11/2023 a las 18:57:53

        Hola, Isabel. Muchas gracias por tu interés y comentario. La metodología se lleva a cabo de mediante una triangulación metodológica: Conversaciones generadas con ChatGPT centradas en las temáticas educativas; encuestas al alumnado con cuestionarios cerrados; entrevistas semi-estructuradas con profesorado universitario.
        Posteriormente, ese volumen de información se ha cruzado para la obtención de los resultados finales.

        Por otra parte, para la recogida de información de las entrevistas utilizamos una combinación de codificación abierta (identificar temas nuevos y emergentes) y codificación axial (relacionar estos temas entre sí) para desarrollar un marco comprensivo de categorías y subcategorías.

        Muchas gracias de nuevo por tu pregunta, un saludo.

    • profile avatar

      África Presol Herrero

      Comentó el 29/11/2023 a las 14:22:51

      Felicitaros por vuestro trabajo. De igual modo, como profesor me preocupa la forma de evaluar el aprendizaje de los alumnos. Me gustaría conocer vuestra opinión sobre en qué medida, la IA aporta conocimiento y se convierte en una herramienta útil y no "un atajo" para llegar antes. Muchas gracias y enhorabuena de igual modo

      • profile avatar

        Jonattan Rodríguez Hernández

        Comentó el 29/11/2023 a las 18:59:45

        Muchas gracias por tu comentario y por plantear una cuestión tan importante, África. Desde nuestra perspectiva, la Inteligencia Artificial, como Chat GPT, puede ser una herramienta valiosa en la educación si se utiliza correctamente. Si bien es cierto que ofrece acceso rápido a información y puede facilitar el aprendizaje, es crucial enseñar a los estudiantes a usarla de manera crítica y complementaria a su aprendizaje autónomo. La IA siempre debe ir acompañada de una guía y evaluación adecuadas por parte del docente para asegurar que los estudiantes no solo obtengan respuestas rápidas, sino que también desarrollen habilidades críticas y de comprensión profunda.

        Muchas gracias de nuevo por el comentario, un saludo.

    • profile avatar

      Samanta Flores-Jaramillo

      Comentó el 29/11/2023 a las 11:18:54

      En primer lugar felicitaros por vuestro trabajo. Está claro que es importante conocer las fortalezas y las debilidades de estas herramientas, pero ¿no estaríamos beneficiando de algún modo, al conocer y corregir esas debilidades en fortalecer una herramienta que pueda llegar a ser un arma de doble filo en el entorno educativo?

      Un saludo

      • profile avatar

        Jonattan Rodríguez Hernández

        Comentó el 29/11/2023 a las 19:04:22

        Muchas gracias, por plantear una reflexión tan interesante, Samanta. Es cierto que al identificar y corregir las debilidades de herramientas como la Inteligencia Artificial en educación, estamos fortaleciéndolas. Sin embargo, este proceso también nos brinda la oportunidad de establecer protocolos y prácticas éticas sólidas que pueden mitigar el riesgo de que se conviertan en un arma de doble filo. Al entender y mejorar estas herramientas, podemos preparar mejor a educadores y estudiantes para utilizarlas de manera responsable y crítica, asegurando que sirvan como apoyo al aprendizaje y no como un sustituto del pensamiento crítico y la comprensión profunda. La clave está en el equilibrio y en la formación continua sobre cómo integrar estas tecnologías de manera efectiva y ética en el entorno educativo.

        Muchas gracias de nuevo, un saludo.

    • profile avatar

      Ana A. Lozano González

      Comentó el 29/11/2023 a las 09:17:18

      Buenos días, me parece muy interesante vuestra ponencia. Me gustaría haceros una pregunta, ¿cómo visualizáis el futuro de la integración de la IA en la educación, considerando las preocupaciones de sesgo identificadas en este estudio? y, por otro lado, ¿habéis identificado iniciativas o tendencias emergentes que podrían tener un impacto positivo en la mitigación del sesgo en sistemas de IA educativos?

      Gracias de antemano

      • profile avatar

        Jonattan Rodríguez Hernández

        Comentó el 29/11/2023 a las 19:09:15

        Gracias a ti por el interés en nuestra ponencia, Ana. En cuanto al futuro de la integración de la IA en la educación, lo visualizamos como un campo en en el que habrá una constante evolución, donde la conciencia y la reducción del sesgo jugarán un papel crucial. A medida que se reconozcan y aborden más activamente los sesgos en la IA, esperamos ver sistemas más inclusivos y representativos, que reflejen y respeten la diversidad de los entornos educativos. En cuanto a iniciativas y tendencias emergentes, hemos identificado varios casos. Por ejemplo, hay un interés en aumento con la IA explicativa, que busca hacer que los procesos de toma de decisiones de la IA sean más transparentes y comprensibles para los usuarios.

        Muchas gracias de nuevo por tu comentario, un saludo Ana.

    • profile avatar

      Eglée Ortega Fernández

      Comentó el 28/11/2023 a las 16:36:41

      Hola Fernando, Gracias por tus comentarios.
      Consideramos que de momento, y mientras estas herramientas sigan su evolución, la comprensión a fondo del "detrás de escena" de estas herramientas como el Chat GPT, es algo que está lejos de los intereses de los estudiantes, que lo ven en algunas ocasiones como una "ayuda inmediata" y no se paran a analizar lo que hay detrás. No se paran a pensar en esos sesgos que pueden tener implícitos al ser respuestas entrenadas por humanos, que a su vez tienen sus propios sesgos y prejuicios. Al centrarse en la inmediatez de obtener un texto o responder alguna tarea específica empleando poco tiempo, muy pocos estudiantes se detienen a pensar y esta una de las limitaciones que hay que romper promoviendo en ellos un pensamiento crítico desde los espacios educativos.

    • profile avatar

      Fernando Raúl Alfredo Bordignon

      Comentó el 28/11/2023 a las 14:13:31

      Hola Eglée y Jonattan, felicitaciones por traer estos temas a este espacio del Congreso. Les dejo una pregunta, que ya hice a otros colegas, pero me parece que desde su investigación podrían aportar algunas pistas.

      ¿Hasta dónde los estudiantes y profesores conocen el "detrás de la escena" de estas herramientas? Es decir, su funcionamiento, sus limitaciones en cuento al manejo y comprensión de la semántica, los sesgos, los modelos de negocios que se tratan de imponer desde el sector EdTech.


Deja tu comentario

Lo siento, debes estar conectado para publicar un comentario.

Organizan

Egregius congresos

Colaboran

Egregius ediciones