Spiegare in che modo l'IA potrebbe essere utilizzata per amplificare i pregiudizi sociali.

Cosa impari a questo livello

• Gli alunni comprendono che nei dati utilizzati per addestrare l'IA possono essere presenti pregiudizi, i quali possono essere replicati quando gli esseri umani progettano, sviluppano e utilizzano i sistemi IA.

• Insieme all'insegnante, gli alunni esaminano i diversi tipi di dati che possono essere raccolti su una persona (ad esempio, l'altezza o il colore preferito). Prendono nota delle sfumature che i dati possono cogliere in modo efficace, ma attingono alla conoscenza reciproca per individuare ciò che viene tralasciato.

Cosa impari a questo livello

• Gli alunni spiegano in che modo dati o scelte di progettazione caratterizzati da bias (ad esempio, contenuti stereotipati, classificazioni errate, raccomandazioni non eque) possono indurre i sistemi IA a generare risultati ingiusti o distorti per determinati gruppi.

• Gli alunni esaminano come e perché la tecnologia di riconoscimento facciale funziona in modo diverso a seconda dei gruppi demografici e discutono degli effetti che può avere nel mondo reale quando viene utilizzata per prendere decisioni nella vita di tutti i giorni.

Cosa impari a questo livello

• Gli alunni analizzano il modo in cui persone, aziende o istituzioni possono creare e implementare sistemi IA per rispondere a interessi specifici e in cui questi sistemi possono plasmare opportunità, rappresentazioni o percezioni del pubblico.

• Insieme a un insegnante, gli alunni valutano esempi concreti in cui l'IA viene usata per influenzare un evento (ad esempio, la misinformazione e la disinformazione sui social media). Dopodiché, analizzano in che modo le scelte di un'istituzione in merito all'uso dell'IA potrebbero avvantaggiare determinati gruppi e avere effetti negativi su altri.