Código: E6
explicar cómo se podría utilizar la IA para amplificar los sesgos sociales.
Descriptores
Básico
Lo que aprendes en este nivel
Los alumnos entienden que pueden existir sesgos en los datos utilizados para entrenar a la IA y que estos sesgos pueden perpetuarse cuando los seres humanos diseñan, desarrollan y utilizan sistemas de IA.
De la mano de sus profesores, los alumnos analizan distintos tipos de datos que se pueden recopilar sobre una persona (p. ej., la estatura o su color favorito). Observan los matices que los datos pueden captar de forma eficaz, pero se basan en lo que saben los unos de los otros para identificar lo que se omite.
Intermedio
Lo que aprendes en este nivel
Los alumnos explican cómo los sesgos en los datos o en las decisiones de diseño (p. ej., contenidos estereotipados, clasificaciones erróneas o recomendaciones desiguales) pueden hacer que los sistemas de IA generen resultados injustos o sesgados para determinados grupos.
Los alumnos analizan cómo y por qué la tecnología de reconocimiento facial funciona de manera diferente en función de los grupos demográficos y debaten las posibles repercusiones en el mundo real cuando se utiliza para la toma de decisiones en la vida cotidiana.
Avanzado
Lo que aprendes en este nivel
Los alumnos analizan cómo las personas, las empresas o las instituciones pueden crear e implementar sistemas de IA para servir a intereses particulares y cómo estos sistemas pueden determinar las oportunidades, las representaciones o las percepciones del público.
De la mano de los profesores, los alumnos evalúan ejemplos del mundo real en los que se utiliza la IA para influir en un acontecimiento (p. ej., la información errónea y la desinformación en las redes sociales). A continuación, analizan cómo las decisiones de una institución en relación con el uso de la IA pueden beneficiar a determinados grupos y, al mismo tiempo, perjudicar a otros.