La nostra società è sempre più dipendente dalle nuove tecnologie informatiche, che nella loro apparente neutralità possono introdurre fonti di parzialità (bias) e/o discriminazione, e questo in modo anche inconsapevole per la comunità che ne beneficia o ne subisce gli effetti. Nello specifico, l’utilizzo di strumenti digitali di supporto alle decisioni, e in particolare di applicazioni basate su metodologie di tipo data-driven, quali algoritmi di intelligenza artificiale e machine learning, amplia enormemente la capacità del decisore pubblico o privato di attuare interventi efficaci, a vantaggio dei beneficiari di tali interventi. Esempi di applicazioni che oggi utilizzano metodologie data-driven sono il processo automatico di selezione delle candidature per un colloquio di lavoro, l’erogazione dei servizi e la gestione delle condizionalità nei servizi pubblici per l’impiego, la profilazione degli individui potenzialmente soggetti a sviluppare determinate patologie. Le metodologie di tipo data-driven possono tuttavia nascondere alcuni aspetti negativi quali bias nei dati e quindi nel processo decisionale e generare in modo inconsapevole discriminazioni in quest’ultimo (fondate ad esempio su genere, etnia, cultura), col risultato che esso potrebbe in ultima analisi non corrispondere a criteri di accountability e responsiveness consolidati nelle democrazie avanzate. Il corso discute il ruolo degli algoritmi nei processi di presa delle decisioni nelle democrazie avanzate, analizzandone opportunità e rischi dal punto di vista tecnico-metodologico così come dei criteri e degli standard tipici delle democrazie studiate, delle conseguenze dell'utilizzo di algoritmi per i cittadini e le cittadine e della loro possibile regolazione. Verranno discussi esempi pratici e casi di studio al fine di identificare la presenza di fonti di parzialità nei dati e negli algoritmi, quantificarle ove possibile, ed elaborare strategie e soluzioni metodologiche e di politica pubblica da adottare per superarle.

Al termine dell’insegnamento, le studentesse e gli studenti saranno in grado di: • identificare le fonti di parzialità e discriminazione nei dati e negli algoritmi utilizzati nei processi decisionali di tipo data-driven; • identificare rischi e opportunità dell’utilizzo degli algoritmi a supporto delle decisioni sia in generale, sia con riferimento ad applicazioni specifiche, e il loro impatto relativamente ai processi democratici e ai loro standard; • caratterizzare le previsioni sull’evoluzione dei fenomeni di utilizzo degli algoritmi nel decision making e le loro criticità per i processi democratici ; • elaborare strategie di intervento relative ad applicazioni specifiche, dal punto di vista tecnico-metodologico e di regolazione e politica pubblica; • elaborare proposte su come governare le trasformazioni in corso e su quali politiche adottare per massimizzare i benefici per la collettività dell’utilizzo delle applicazioni informatiche basate sull’intelligenza artificiale, minimizzandone i rischi; • analizzare casi di studio reali utilizzando approcci metodologici e di tipo data-driven.

Nessuno

Lezioni frontali • Introduzione ai dati: tipologie, caratteristiche e tecniche di caratterizzazione/analisi dei dati per evitare fonti di parzialità • Introduzione alle metodologie data-driven e intelligenza artificiale con enfasi sui modelli predittivi di tipo black-box • Fonti di parzialità nei dati e negli algoritmi : metodologie per identificarle e caratterizzarle • Processi decisionali pubblici: il sistema politico e la produzione di decisioni pubbliche • Teorie empiriche della democrazia, responsiveness, accountability e criteri e standard di valutazione • Casi di studio: politiche del lavoro, della sanità, processo di selezione delle candidature per i colloqui, gli algoritmi e le piattaforme di lavoro • Possibili soluzioni: aspetti tecnico-metodologici e di regolazione e politica pubblica Progetto I docenti individueranno alcuni settori nei quali è sufficientemente sviluppato l’utilizzo dell’intelligenza artificiale e degli algoritmi nella presa delle decisioni private e pubbliche. Per ciascun ambito decisionale si formeranno gruppi, che sotto la guida dei docenti svilupperanno separatamente e in base alle proprie inclinazioni degli studi di caso che, muovendo dall’analisi di esempi e casi reali di utilizzo di algoritmi, ne derivino le conseguenze in termini di rischi ed opportunità ed elaborino le possibili risposte dal lato metodologico e di regolazione e politica pubblica. Il lavoro relativo alla parte progettuale prevede incontri con l’intera classe e per gruppi in orario di lezione e lavoro da parte dei gruppi e individuale al di fuori dell’orario di lezione. Ciascun gruppo dovrà preparare un breve video, che verrà reso disponibile a tutta la classe. I docenti selezioneranno i gruppi che avranno realizzato i progetti migliori e che saranno premiati sul voto finale. Oltre al lavoro di gruppo, ciascuno studente/ciascuna studentessa dovrà presentare una relazione sull’apporto fornito al gruppo nella realizzazione del progetto, soggetto alla valutazione degli altri membri del gruppo.

Delle 60 ore di didattica, il 20% saranno comuni ai corsi delle “Grandi Sfide Globali”; il 40% sarà dedicato a lezioni frontali; il restante 40% allo sviluppo di un progetto. Le lezioni frontali saranno tenute dai due docenti, quando possibile in compresenza così da stimolare un dibattito interdisciplinare. Nel progetto, gli studenti e le studentesse saranno divisi in gruppi di circa 6 persone ciascuno e dovranno sviluppare dei casi di studio, analizzando la letteratura scientifica e le informazioni disponibili sul web in ambito socio-politico ed elaborando delle proposte di intervento per massimizzare i benefici minimizzando i rischi di parzialità e discriminazione.

Bibliografia per la parte comune a tutti i corsi (definita a livello di Ateneo): Libri: • Jared Diamond, 1997, Armi, acciaio e malattie, Einaudi, Torino, 1998 (+ nuove edizioni) • Simon L. Lewis, Mark A. Maslin, 2018, Il pianeta umano, Einaudi, Torino, 2019. Articoli (reperibili tramite il sito del Sistema Bibliotecario del Politecnico, https://www.biblio.polito.it/): • David Morens, Anthony Fauci, 2020, “Emerging Pandemic Diseases: How We Got to COVID-19”, in Cell, 182: 1077-1092. • Emily Elhacham, Liad Ben-Uri, Jonathan Grozovski, Yinon M. Bar-On & Ron Milo, 2020, “Global human-made mass exceeds all living biomass”, in Nature, 588: 442-444. Bibliografia per la parte relativa alla sfida Digitale: • Verrà indicata dal docente della sfida Digitale per tutti i corsi afferenti a tale sfida. Bibliografia per la parte relativa al corso Algoritmi e Democrazia: • La bibliografia per la parte teorica verrà indicata dai docenti a inizio corso. • Eventuale bibliografia per lo svolgimento dei progetti verrà suggerita direttamente agli studenti e alle studentesse coinvolti.

Modalità di esame: Prova scritta (in aula); Elaborato scritto individuale; Elaborato progettuale in gruppo;

Exam: Written test; Individual essay; Group project;

Il voto complessivo è la media ponderata di tre componenti, secondo lo schema seguente: • 20% voto per la parte generale, comune ai corsi Grandi Sfide e alla Sfida digitale • 40% voto per la parte relativa alle lezioni frontali del corso di Algoritmi e Democrazia • 40% voto per la parte progettuale Per superare l’esame, gli/le studenti/esse devono conseguire un voto pari o superiore a 18/30 in ciascuna delle tre componenti. Il voto riguardante la parte relativa alle lezioni frontali è ottenuto sulla scorta di un esame scritto di 60 minuti, nel quale rispondere a domande chiuse sulla parte comune ai corsi Grandi Sfide e alla Sfida digitale e a domande sia chiuse sia aperte relative alla parte svolta nel corso Algoritmi e Democrazia. Fatte salve successive comunicazioni, secondo le attuali regole dell’Ateneo gli esami si terranno in presenza. Il voto riguardante la parte progettuale è ottenuto sulla scorta della partecipazione ai lavori del gruppo, inclusa la valutazione del breve video realizzato dal gruppo, e dell’apporto individuale come testimoniato dalla relazione individuale. I/le partecipanti ai gruppi selezionati otterranno punti aggiuntivi sul voto relativo alla parte progettuale.

Gli studenti e le studentesse con disabilità o con Disturbi Specifici di Apprendimento (DSA), oltre alla segnalazione tramite procedura informatizzata, sono invitati a comunicare anche direttamente al/la docente titolare dell'insegnamento, con un preavviso non inferiore ad una settimana dall'avvio della sessione d'esame, gli strumenti compensativi concordati con l'Unità Special Needs, al fine di permettere al/la docente la declinazione più idonea in riferimento alla specifica tipologia di esame.