La nostra società è sempre più dipendente dalle nuove tecnologie informatiche, che sono di grande aiuto nella presa di decisioni e per migliorare efficacia ed efficienza delle politiche pubbliche. Al tempo stesso, nella loro apparente neutralità tali tecnologie possono introdurre fonti di parzialità (bias) e/o discriminazione, e questo in modo anche inconsapevole per la comunità che ne beneficia o ne subisce gli effetti. L’utilizzo di strumenti digitali di supporto alle decisioni, e in particolare di applicazioni basate su metodologie di tipo data-driven, quali algoritmi di intelligenza artificiale e machine learning, amplia enormemente la capacità del decisore pubblico o privato di attuare interventi efficaci, a vantaggio dei beneficiari di tali interventi. Esempi di applicazioni che oggi utilizzano metodologie data-driven sono il processo automatico di selezione delle candidature per un colloquio di lavoro, l’erogazione dei servizi e la gestione delle condizionalità nei servizi pubblici per l’impiego, la profilazione degli individui potenzialmente soggetti a sviluppare determinate patologie. Le metodologie di tipo data-driven possono tuttavia nascondere alcuni aspetti negativi quali bias nei dati e quindi nel processo decisionale e generare in modo inconsapevole discriminazioni in quest’ultimo (fondate ad esempio su genere, etnia, cultura), col risultato che esso potrebbe in ultima analisi non corrispondere ai consolidati criteri di legittimità dei processi decisionali – e dei loro prodotti – considerati standard nelle democrazie avanzate. L'insegnamento discute il ruolo degli algoritmi nei processi di presa delle decisioni pubbliche nelle democrazie avanzate, analizzandone opportunità e rischi dal punto di vista tecnico-metodologico così come del processo di policy tipico delle democrazie studiate, delle conseguenze dell'utilizzo di algoritmi per i cittadini e le cittadine e della loro possibile regolazione. Verranno discussi esempi pratici e casi di studio al fine di identificare la presenza di fonti di parzialità nei dati e negli algoritmi, quantificarle ove possibile, ed elaborare strategie e soluzioni metodologiche e di politica pubblica da adottare per superarle. Soprattutto, nell’elaborazione dei progetti di gruppo verranno identificate soluzioni di politica pubblica che utilizzano tecnologie algoritmiche per risolvere problemi collettivamente rilevanti, mettendo in pratica quanto appreso in teoria.

Al termine dell’insegnamento, le studentesse e gli studenti saranno in grado di: • identificare le fonti di parzialità e discriminazione nei dati e negli algoritmi utilizzati nei processi decisionali di tipo data-driven; • identificare rischi e opportunità dell’utilizzo degli algoritmi a supporto delle decisioni sia in generale, sia con riferimento ad applicazioni specifiche, e il loro impatto relativamente al processo di policy in regimi democratici e ai loro standard; • caratterizzare le previsioni sull’evoluzione dei fenomeni di utilizzo degli algoritmi nel decision making e le loro criticità per i processi democratici; • elaborare strategie di intervento relative ad applicazioni specifiche, dal punto di vista tecnico-metodologico e di regolazione e politica pubblica; • elaborare proposte su come governare le trasformazioni in corso e su quali politiche adottare per massimizzare i benefici per la collettività dell’utilizzo delle applicazioni informatiche basate sull’intelligenza artificiale, minimizzandone i rischi; • analizzare casi di studio reali utilizzando approcci metodologici e di tipo data-driven • analizzare casi di studio reali situandoli nel processo di produzione delle politiche pubbliche, identificando gli attori rilevanti

Nessuno

Lezioni frontali • Introduzione ai dati: tipologie, caratteristiche e tecniche di caratterizzazione/analisi dei dati per evitare fonti di parzialità • Introduzione alle metodologie data-driven e intelligenza artificiale con enfasi sui modelli predittivi di tipo black-box • Fonti di parzialità nei dati e negli algoritmi : metodologie per identificarle e caratterizzarle • Processi decisionali pubblici: il sistema politico e la produzione di decisioni pubbliche • Risposte di politica pubblica a problemi rilevanti • Casi di studio: politiche del lavoro, della sanità, processo di selezione delle candidature per i colloqui, gli algoritmi e le piattaforme di lavoro • Possibili soluzioni: aspetti tecnico-metodologici e di regolazione e politica pubblica Progetto I docenti individueranno alcuni settori nei quali è sufficientemente sviluppato l’utilizzo dell’intelligenza artificiale e degli algoritmi nella presa delle decisioni private e pubbliche. Per ciascun ambito decisionale si formeranno gruppi, che sotto la guida dei docenti identificheranno in base alle proprie inclinazioni dei problemi considerati rilevanti per la collettività e in risposta ai quali svilupperanno degli interventi che utilizzino tecnologie algoritmiche, anche muovendo dall’analisi di esempi e casi reali. Le soluzioni di policy proposte devono derivare le conseguenze in termini di rischi ed opportunità delle scelte sostantive e metodologiche effettuate relativamente al disegno della policy e alle tecnologie algoritmiche utilizzate. Il lavoro relativo alla parte progettuale prevede incontri con l’intera classe e per gruppi in orario di lezione e lavoro da parte dei gruppi e individuale al di fuori dell’orario di lezione. Ciascun gruppo dovrà preparare un breve video, che verrà reso disponibile e mostrato a tutta la classe prima della fine dell'insegnamento. Ciascun video verrà discusso in aula da un gruppo estratto a sorte, e il gruppo che ha prodotto il video dovrà replicare alle critiche del gruppo discussant. docenti selezioneranno i gruppi che avranno realizzato i progetti migliori e che saranno premiati sul voto finale. Oltre al lavoro di gruppo, ciascun gruppo dovrà presentare entro una settimana dalla fine dell'insegnamento un breve articolo scientifico che illustra i contenuti del progetto e i suoi risultati, mostrandone la rilevanza per le Grandi Sfide e in particolare la Sfida Digitale. L'articolo deve altresì dare evidenza del contributo individuale al progetto di ciascun membro del gruppo. La partecipazione attiva alla realizzazione del progetto costituisce condizione necessaria per il sostenimento della prova scritta nell'anno accademico di erogazione dell'insegnamento, laddove la mancata partecipazione alle lezioni o al progetto impediscono il sostenimento dell'esame.

Delle 60 ore di didattica, il 20% saranno comuni agli insegnamenti delle “Grandi Sfide Globali”; il 40% sarà dedicato a lezioni frontali; il restante 40% allo sviluppo di un progetto. Le lezioni frontali dell'insegnamento saranno tenute separatamente dai due docenti. Nel progetto, gli studenti e le studentesse saranno divisi in gruppi di circa 6-8 persone ciascuno e dovranno identificare dei problemi collettivamente rilevanti, sviluppare delle soluzioni di politica pubblica ed elaborare delle concrete proposte di intervento che utilizzino tecnologie algoritmiche per rispondere ai problemi individuati. Nello svolgimento dei progetti gli studenti e le studentesse saranno supervisionati da entrambi i docenti, quando possibile in compresenza così da facilitare lo sviluppo di progetti genuinamente interdisciplinari.

Bibliografia per la parte comune a tutti gli insegamenti Grandi Sfide (definita a livello di Ateneo): Libri: • Jared Diamond, 1997, Armi, acciaio e malattie, Einaudi, Torino, 1998 (+ nuove edizioni) • Simon L. Lewis, Mark A. Maslin, 2018, Il pianeta umano, Einaudi, Torino, 2019. Articoli (reperibili tramite il sito del Sistema Bibliotecario del Politecnico, https://www.biblio.polito.it/): • David Morens, Anthony Fauci, 2020, “Emerging Pandemic Diseases: How We Got to COVID-19”, in Cell, 182: 1077-1092. • Emily Elhacham, Liad Ben-Uri, Jonathan Grozovski, Yinon M. Bar-On & Ron Milo, 2020, “Global human-made mass exceeds all living biomass”, in Nature, 588: 442-444. Bibliografia per la parte relativa alla sfida Digitale: • Verrà indicata dal docente della sfida Digitale per tutti i corsi afferenti a tale sfida. Bibliografia per la parte relativa all'insegnamento Algoritmi e Democrazia: • La bibliografia per la parte teorica verrà indicata dai docenti all'inizio dell'insegnamento. • Eventuale bibliografia per lo svolgimento dei progetti verrà suggerita direttamente agli studenti e alle studentesse coinvolti.

Slides;

Modalità di esame: Prova scritta (in aula); Elaborato scritto prodotto in gruppo; Elaborato progettuale in gruppo;

Exam: Written test; Group essay; Group project;

... Il voto complessivo è la media ponderata di tre componenti, secondo lo schema seguente: • 40% voto per la parte relativa alle lezioni frontali del corso di Algoritmi e Democrazia • 40% voto per la parte progettuale • 20% voto per l’articolo scientifico Per superare l’esame, gli/le studenti/esse devono conseguire un voto pari o superiore a 18/30 in ciascuna delle tre componenti. Il voto riguardante la parte relativa alle lezioni frontali è ottenuto sulla scorta di un esame scritto di 60 minuti, condotto senza poter utilizzare libri o appunti, nel quale rispondere a domande sia chiuse sia aperte (scrivendo risposte comprese tra 300 e 500 parole ciascuna) relative alla parte svolta nell'insegnamento di Algoritmi e Democrazia. Le risposte errate a domande chiuse comportano una penalità, che verrà comunicata prima dell'esame. Le risposte mancanti non comportano penalità. La prova scritta ha una votazione massima pari a 32 punti. Esempi di prove di esame sono pubblicati sul Portale della Didattica. Fatte salve successive comunicazioni, secondo le attuali regole dell’Ateneo gli esami si terranno in presenza. Il voto riguardante la parte progettuale è ottenuto sulla scorta della partecipazione ai lavori del gruppo, inclusa la valutazione del breve video realizzato dal gruppo che deve essere consegnato prima della fine del corso, e dell’apporto individuale al progetto come testimoniato dalla relativa sezione dell’articolo scientifico di gruppo. Il video verrà presentato in una delle ultime lezioni dell'insegnamento e discusso da un altro gruppo, estratto a sorte. Il gruppo che ha realizzato il video dovrà quindi rispondere alle domande e alle critiche del gruppo discussant. I/le partecipanti ai gruppi selezionati per aver svolto i progetti migliori (valutando anche la capacità di rispondere alle critiche, così come di svolgere il ruolo di discussant) otterranno sino ad un massimo di 3 punti aggiuntivi sul voto relativo alla parte progettuale. Il voto relativo all’articolo scientifico di gruppo, da consegnare entro una settimana dalla fine dell'insegnamento, è ottenuto con riferimento a chiarezza, appropriatezza e rilevanza dell’esposizione dei contenuti del progetto. In particolare, l’articolo scientifico di gruppo deve essere strutturato intorno ai seguenti elementi: contestualizzare del problema socialmente rilevante; definizione dello scopo e degli obiettivi del progetto come risposta al problema; identificazione delle sorgenti dati potenzialmente utili; caratterizzazione e ruolo degli stakeholder e loro coinvolgimento nello svolgimento del progetto; descrizione nel linguaggio naturale della soluzione algoritmica proposta (descrizione procedurale); identificazione di possibili criticità e sorgenti di bias; valutazione dell’efficacia della risposta di policy/algoritmica rispetto al problema; verifica della congruenza con i pilastri di una elabarazione dati responsabile. L'articolo scientifico di gruppo deve riportare la struttura del gruppo e l'attribuzione dei compiti al suo interno. La lode può essere ottenuta con un punteggio complessivo pari o superiore a 31 trentesimi. Gli studenti/le studentesse che non partecipano attivamente alla realizzazione di un progetto non possono sostenere l'esame scritto nell'anno accademico di erogazione dell'insegnamento, non raggiungendo il voto di 18/30 nella componente relativa al progetto. Griglia di valutazione che mette in relazione risultati attesi dichiarati e criteri di valutazione (x: corrispondenza; X: elevata corrispondenza) Identificare le fonti di parzialità e discriminazione nei dati e negli algoritmi utilizzati nei processi decisionali di tipo data-driven: Esame scritto (X) Progetto di gruppo (x) Identificare rischi e opportunità dell’utilizzo degli algoritmi a supporto delle decisioni sia in generale, sia con riferimento ad applicazioni specifiche, e il loro impatto relativamente al processo di policy in regimi democratici e ai loro standard: Esame scritto (X) Progetto di gruppo (x) Caratterizzare le previsioni sull’evoluzione dei fenomeni di utilizzo degli algoritmi nel decision making e le loro criticità per i processi democratici Esame scritto (X) Progetto di gruppo (X) Elaborare strategie di intervento relative ad applicazioni specifiche, dal punto di vista tecnico-metodologico e di regolazione e politica pubblica: Esame scritto (x) Progetto di gruppo (X) Elaborare proposte su come governare le trasformazioni in corso e su quali politiche adottare per massimizzare i benefici per la collettività dell’utilizzo delle applicazioni informatiche basate sull’intelligenza artificiale, minimizzandone i rischi: Esame scritto (x) Progetto di gruppo (X) Analizzare casi di studio reali utilizzando approcci metodologici e di tipo data-driven Esame scritto (x) Progetto di gruppo (X) Analizzare casi di studio reali situandoli nel processo di produzione delle politiche pubbliche, identificando gli attori rilevanti Esame scritto (x) Progetto di gruppo (X)

Gli studenti e le studentesse con disabilità o con Disturbi Specifici di Apprendimento (DSA), oltre alla segnalazione tramite procedura informatizzata, sono invitati a comunicare anche direttamente al/la docente titolare dell'insegnamento, con un preavviso non inferiore ad una settimana dall'avvio della sessione d'esame, gli strumenti compensativi concordati con l'Unità Special Needs, al fine di permettere al/la docente la declinazione più idonea in riferimento alla specifica tipologia di esame.