Expliquer comment l’IA pourrait être utilisée pour amplifier les préjugés sociétaux.

Ce que vous apprenez à ce niveau

• Les apprenants comprennent que des préjugés peuvent exister dans les données utilisées pour entraîner l’IA et qu’ils peuvent être perpétués lorsque les humains conçoivent, développent et utilisent des systèmes d’IA.

• Avec leur enseignant, les apprenants explorent différents types de données qui peuvent être collectées sur une personne (par exemple, la taille et la couleur préférée). Ils constatent les nuances que les données peuvent saisir efficacement, mais s’appuient sur leur connaissance mutuelle pour identifier ce qui est laissé de côté.

Ce que vous apprenez à ce niveau

• Les apprenants expliquent comment des données ou des choix de conception biaisés (p. ex. des contenus stéréotypés, des erreurs de classification et des recommandations inégalitaires) peuvent amener les systèmes d’IA à générer des résultats injustes ou faussés pour certains groupes.

• Les apprenants explorent comment et pourquoi la technologie de reconnaissance faciale fonctionne différemment selon les groupes démographiques et discutent des conséquences possibles dans la réalité lorsque cette technologie est utilisée pour prendre des décisions dans la vie quotidienne.

Ce que vous apprenez à ce niveau

• Les apprenants analysent la manière dont des individus, des entreprises ou des institutions peuvent créer et déployer des systèmes d’IA pour servir des intérêts particuliers, et la manière dont ces systèmes peuvent façonner les opportunités, les représentations ou les perceptions du public.

• Sous la supervision d’un enseignant, les apprenants évaluent des exemples concrets d’utilisation de l’IA pour influencer un événement (par exemple, la mésinformation et la désinformation sur les réseaux sociaux). Ils examinent ensuite comment les choix d’une institution concernant l’utilisation de l’IA peuvent profiter à certains groupes tout en ayant un effet négatif sur d’autres.