La IA bajo la lupa: revelando sesgos ocultos y sus dilemas éticos
EQUIPO DISEÑADOR Y AFILIACIÓN: María Abascal (Universitat de Lleida)
DISEÑO DEL ESCENARIO DE APRENDIZAJE:
Aspectos materiales (recursos materiales y tecnológicos necesarios, espacios,…):
- Recursos tecnológicos: Dispositivo con acceso a internet (tablet/ ordenador/móvil); acceso a un modelo de IA generativa de imágenes gratuita (Leonardo, Hotpot.ai…); artículos de Nicoletti y Bass (2023) y de Zou y Scheibinger (2018); pizarra digital para mostrar ejemplos; herramientas digitales como Slido y/o Mentimeter.
- Materiales físicos: Papel y lápiz/boli
- Espacios: Aula con conexión a internet
Aspectos sociales (agrupamiento, roles,…):
Trabajo en grupos/equipos heterogéneos de 3-4 estudiantes.
En cuanto a la interacción social: trabajo individual (de reflexión) + trabajo en parejas (ponen en común sus reflexiones).
Estudiante que ejerce su autonomía y persona que supervisa (docente). Trabajo grupal de puesta en común de resultados y debate.
Aspectos epistemológicos (tareas, secuencia, temporalización, modalidad,…):
Temporalización y tareas: La práctica se desarrolla a lo largo de una sesión presencial en el aula (de 2h aproximadamente) y trabajo en casa para elaborar la reflexión crítica de lo trabajado y aprendido durante la sesión, y que el alumnado enviará al docente para evaluarla.
El estudiantado lleva a cabo colaboración entre iguales, y actividades auténticas relacionadas con la realidad de la presencia de sesgos en el mundo digital y su impacto social. Actividades de creación de contenido (frase de reflexión y síntesis) a partir de los resultados generados en los modelos de IA y el estudio de los artículos de Nicoletti y Bass (2023) y de Zou y Scheibinger (2018). También actividades para concienciar críticamente sobre lo digital (sobre los sesgos presentes en los algoritmos), y problematizar cuestiones sociales (activismo digital), diálogos y discusiones. El estudiantado lleva a cabo una participación activa, la experimentación con IA generativa y la presentación abierta de un producto final.
El profesorado lleva a cabo un apoyo al estudiantado (académico), evaluación formativa, feedback enriquecido (tutorías continuas, canales de comunicación fluidos: correo, campus virtual, presencial) y andamiaje al conocimiento (docente como apoyo a la evolución).
Aproximaciones pedagógicas:
Aprendizaje Basado en la Indagación (al experimentar activamente con la IA, detectar sesgos y reflexionar sobre sus implicaciones). También el aprendizaje colaborativo (al promover las discusiones y utilizar dinámicas de puesta en común), activo y experiencial (a través de la generación y comparación de imágenes los estudiantes reflexionan la problemática de la existencia de sesgos en los algoritmos en primera persona).
Se trata de llevar a cabo una pedagogía crítica puesto que se analizan cómo los sesgos en IA reflejan desigualdades estructurales en la sociedad.
CARACTERÍSTICAS DE LA IMPLEMENTACIÓN:
En el anexo se ofrece una descripción detallada de la práctica, su desarrollo y las tareas que conlleva.
La práctica se desarrolla a lo largo de una sesión presencial de 2h aproximadamente en el aula. Después, ya en casa, el alumnado elaborará una reflexión crítica sobre lo trabajado y aprendido, y que entregará al docente como producto para evaluar.
Se llevará a cabo de la siguiente manera:
- Apertura de la sesión con un desafío rápido y una discusión guiada con preguntas clave (10 min)
- Introducción de qué son los sesgos y cómo influyen en la IA (10 min)
- Experimentación con el modelo de generación de imágenes (40 min)
- Puesta en común de los resultados (1º en parejas, luego con todo el grupo): discusión y análisis crítico del sesgo de género, de color de piel y cultural (35 min).
- Conclusión y reflexión final (10 min)
- Trabajo en casa (si no da tiempo en el aula): elaboración de una reflexión crítica a partir de una frase para completar. Es el producto evaluable.
La IA bajo la lupa: revelando sesgos ocultos y sus dilemas éticos© 2025 por CoDiCri está bajo licencia CC BY-NC-SA 4.0: https://creativecommons.org/licenses/by-nc-sa/4.0/deed.es
