La IA bajo la lupa: revelando sesgos ocultos y sus dilemas éticos
EQUIPO DISEÑADOR Y AFILIACIÓN: María Abascal (Universitat de Lleida)
DISEÑO DEL ESCENARIO DE APRENDIZAJE:
*En esta ficha se presentan dos versiones de la práctica. Ambas comparten las aproximaciones pedagógicas y los aspectos sociales, pero, para cada una, se especifican los aspectos materiales y epistemológicos, y se ofrece una sugerencia de implementación. Además, en el anexo se proporciona un detalle más concreto de cada versión.
Aproximaciones pedagógicas:
Aprendizaje Basado en la Indagación (al experimentar activamente con la IA, detectar sesgos y reflexionar sobre sus implicaciones). También el aprendizaje colaborativo (al promover las discusiones y utilizar dinámicas de puesta en común), activo y experiencial (a través de la generación y/o comparación de imágenes los estudiantes reflexionan la problemática de la existencia de sesgos en los algoritmos en primera persona).
Se trata de llevar a cabo una pedagogía crítica puesto que se analizan cómo los sesgos en IA reflejan desigualdades estructurales en la sociedad.
Aspectos sociales (agrupamiento, roles…):
- Trabajo en grupos/equipos heterogéneos de 3-4 estudiantes.
- En cuanto a la interacción social: trabajo individual (de reflexión) + trabajo en parejas (ponen en común sus reflexiones).
Estudiante que ejerce su autonomía y persona que supervisa (docente). Trabajo grupal de puesta en común de resultados y debate.
Versión 1
Aspectos materiales (recursos materiales y tecnológicos necesarios, espacios…):
- Recursos tecnológicos: Dispositivo con acceso a internet (tablet/ ordenador/móvil); acceso a un modelo de IA generativa de imágenes gratuita (Leonardo, Hotpot.ai…); artículos de Nicoletti y Bass (2023) y de Zou y Scheibinger (2018); pizarra digital para mostrar ejemplos; herramientas digitales como Slido y/o Mentimeter.
- Materiales físicos: Papel y lápiz/boli
- Espacios: Aula con conexión a internet
Aspectos epistemológicos (tareas, secuencia, temporalización, modalidad…):
Temporalización y tareas: La práctica se desarrolla a lo largo de una sesión presencial en el aula (de 2h aproximadamente) y trabajo en casa para elaborar la reflexión crítica de lo trabajado y aprendido durante la sesión, y que el alumnado enviará al docente para evaluarla.
El estudiantado lleva a cabo colaboración entre iguales, y actividades auténticas relacionadas con la realidad de la presencia de sesgos en el mundo digital y su impacto social. Actividades de creación de contenido (frase de reflexión y síntesis) a partir de los resultados generados en los modelos de IA y el estudio de los artículos de Nicoletti y Bass (2023) y de Zou y Scheibinger (2018). También actividades para concienciar críticamente sobre lo digital (sobre los sesgos presentes en los algoritmos), y problematizar cuestiones sociales (activismo digital), diálogos y discusiones. El estudiantado lleva a cabo una participación activa, la experimentación con IA generativa y la presentación abierta de un producto final.
El profesorado lleva a cabo un apoyo al estudiantado (académico), evaluación formativa, feedback enriquecido (tutorías continuas, canales de comunicación fluidos: correo, campus virtual, presencial) y andamiaje al conocimiento (docente como apoyo a la evolución).
SUGERENCIAS PARA LA IMPLEMENTACIÓN:
La práctica se desarrolla a lo largo de una sesión presencial de 2h aproximadamente en el aula. Después, ya en casa, el alumnado elaborará una reflexión crítica sobre lo trabajado y aprendido, y que entregará al docente como producto para evaluar.
Se llevará a cabo de la siguiente manera:
- Apertura de la sesión con un desafío rápido y una discusión guiada con preguntas clave (10 min)
- Introducción de qué son los sesgos y cómo influyen en la IA (10 min)
- Experimentación con el modelo de generación de imágenes (40 min)
- Puesta en común de los resultados (1º en parejas, luego con todo el grupo): discusión y análisis crítico del sesgo de género, de color de piel y cultural (35 min).
- Conclusión y reflexión final (10 min)
- Trabajo en casa (si no da tiempo en el aula): elaboración de una reflexión crítica a partir de una frase para completar. Es el producto evaluable.
Versión 2
Aspectos materiales (recursos materiales y tecnológicos necesarios, espacios…):
- Recursos tecnológicos: Dispositivo con acceso a internet (tablet/ ordenador/móvil); artículos de Nicoletti y Bass (2023) y de Zou y Scheibinger (2018); pizarra digital para mostrar ejemplos; imágenes de bancos de imágenes de acceso abierto para cuestionar.
- Materiales físicos: Papel y lápiz/boli
- Espacios: Aula con conexión a internet
Aspectos epistemológicos (tareas, secuencia, temporalización, modalidad…):
Temporalización y tareas: La práctica se desarrolla a lo largo de una sesión presencial en el aula (de 2h aproximadamente) y trabajo en casa para desarrollar respuestas críticas a una serie de preguntas definidas relacionadas con lo trabajado y aprendido durante la sesión, y que el alumnado enviará al docente para evaluar.
El estudiantado lleva a cabo colaboración entre iguales, y actividades auténticas relacionadas con la realidad de la presencia de sesgos en el mundo digital y su impacto social. Actividades de creación de contenido (frase de reflexión y síntesis) y el estudio de los artículos de Nicoletti y Bass (2023) y de Zou y Scheibinger (2018). También actividades para concienciar críticamente sobre lo digital (sobre los sesgos presentes en los algoritmos), y problematizar cuestiones sociales (activismo digital), diálogos y discusiones. El estudiantado lleva a cabo una participación activa, así como el cuestionamiento de imágenes ya creadas con IA generativa y la presentación abierta de un producto final.
El profesorado lleva a cabo un apoyo al estudiantado (académico), evaluación formativa, feedback enriquecido (tutorías continuas, canales de comunicación fluidos: correo, campus virtual, presencial) y andamiaje al conocimiento (docente como apoyo a la evolución).
SUGERENCIAS PARA LA IMPLEMENTACIÓN:
La práctica se desarrolla a lo largo de una sesión presencial de 2h aproximadamente en el aula. Después, ya en casa (si no diese tiempo a hacerlo en el aula), el alumnado elaborará una reflexión crítica sobre lo trabajado y aprendido mediante la respuesta a una serie de preguntas ya definidas, y que entregará al docente como producto para evaluar.
Se llevará a cabo de la siguiente manera:
- Apertura de la sesión con una pregunta de indagación sobre conocimientos previos a cerca de los sesgos y un desafío rápido con discusión guiada (10 min)
- Introducción de qué son los sesgos, cómo influyen en la IA y cuál es su impacto ambiental (15 min)
- Cuestionamiento y discusión crítica de imágenes ya generadas con modelos de IA generativa procedentes de bancos de imágenes open access (30 min). Desde el enfoque del sesgo de género, de color de piel y cultural.
- Transferencia al aula de lo aprendido. Discusión en parejas (10 min) de una serie de preguntas aplicadas y posterior puesta en común de las conclusiones (10min).
- Trabajo en casa (si no da tiempo en el aula): elaboración individual de respuestas críticas a una serie de preguntas definidas. Es el producto evaluable que se entregará en el portafolio del estudiante. (20 min)
- Conclusión y reflexión final (5 min).
La IA bajo la lupa: revelando sesgos ocultos y sus dilemas éticos© 2025 por CoDiCri está bajo licencia CC BY-NC-SA 4.0: https://creativecommons.org/licenses/by-nc-sa/4.0/deed.es
