PERIODO: GIUGNO - LUGLIO
La belief propagation è un algoritmo iterativo molto potente (di tipo message-passing), usato per trattare svariati problemi di inferenza statistica e ottimizzazione combinatoria (decodifica di codici correttori, allocazione di risorse, clustering di dati, eccetera). Il corso si propone di discutere i concetti all'origine della belief propagation utilizzando un approccio fisico, ovvero presentando il metodo come un algoritmo per il calcolo approssimato di marginali della distribuzione di Boltzmann per un dato tipo di sistema termodinamico, sfruttando opportune analogie formali. Vengono presentati in effetti due diversi approcci (che si mostrano essere equivalenti), l'uno di tipo variazionale e l'altro di tipo autoconsistente (quest'ultimo noto anche come metodo delle cavità).
Viene anche trattata in qualche dettaglio una delle applicazioni di cui sopra, a seconda del maggiore interesse degli studenti frequentanti.
Belief propagation is a very powerful iterative algorithm (of the message-passing type), used for solving several statistical inference and combinatorial optimization problems (decoding of error-correcting codes, resourse allocation, data clustering, etcetera). The course aims at discussing the basic concepts of belief propagation, making use of a physical approach, that is, presenting the method as an algorithm for approximate computation of marginals of the Boltzmann distribution for a given kind of thermodynamic system, exploiting suitable formal analogies. Indeed two different approaches (which turn out to be equivalent) are presented, a variational one and a self-consistent one (the latter also known as cavity method).
One of the aforementioned applications is also treated in some detail, according to main interests of students attending the course.
PERIODO: GIUGNO - LUGLIO
La belief propagation è un algoritmo iterativo molto potente (di tipo message-passing), usato per trattare svariati problemi di inferenza statistica e ottimizzazione combinatoria (decodifica di codici correttori, allocazione di risorse, clustering di dati, eccetera). Il corso si propone di discutere i concetti all'origine della belief propagation utilizzando un approccio fisico, ovvero presentando il metodo come un algoritmo per il calcolo approssimato di marginali della distribuzione di Boltzmann per un dato tipo di sistema termodinamico, sfruttando opportune analogie formali. Vengono presentati in effetti due diversi approcci (che si mostrano essere equivalenti), l'uno di tipo variazionale e l'altro di tipo autoconsistente (quest'ultimo noto anche come metodo delle cavità).
Viene anche trattata in qualche dettaglio una delle applicazioni di cui sopra, a seconda del maggiore interesse degli studenti frequentanti.
Belief propagation is a very powerful iterative algorithm (of the message-passing type), used for solving several statistical inference and combinatorial optimization problems (decoding of error-correcting codes, resourse allocation, data clustering, etcetera). The course aims at discussing the basic concepts of belief propagation, making use of a physical approach, that is, presenting the method as an algorithm for approximate computation of marginals of the Boltzmann distribution for a given kind of thermodynamic system, exploiting suitable formal analogies. Indeed two different approaches (which turn out to be equivalent) are presented, a variational one and a self-consistent one (the latter also known as cavity method).
One of the aforementioned applications is also treated in some detail, according to main interests of students attending the course.
1. Richiami di meccanica statistica. Analogie formali con i problemi di inferenza.
2. L’antica “belief propagation”: approssimazione di Bethe-Peierls e approssimazione quasi-chimica.
3. Approccio autoconsistente e relazione con il metodo delle cavità.
4. Approccio variazionale e relazione con il metodo variazionale a cluster.
5. Esempi di applicazione: inferenza statistica e ottimizzazione combinatoria.
1. Recaps of statistical mechanics. Formal analogies with inference problems.
2. Old “belief propagation”: Bethe-Peierls approximation and quasi-chemical approximation.
3. Self-consistent approach and relationships with the cavity method.
4. Variational approach and relationships with the cluster-variation method.
5. Examples of application: statistical inference and combinatorial optimization.
1. Richiami di meccanica statistica. Analogie formali con i problemi di inferenza.
2. L’antica “belief propagation”: approssimazione di Bethe-Peierls e approssimazione quasi-chimica.
3. Approccio autoconsistente e relazione con il metodo delle cavità.
4. Approccio variazionale e relazione con il metodo variazionale a cluster.
5. Esempi di applicazione: inferenza statistica e ottimizzazione combinatoria.
1. Recaps of statistical mechanics. Formal analogies with inference problems.
2. Old “belief propagation”: Bethe-Peierls approximation and quasi-chemical approximation.
3. Self-consistent approach and relationships with the cavity method.
4. Variational approach and relationships with the cluster-variation method.
5. Examples of application: statistical inference and combinatorial optimization.
...
Gli studenti e le studentesse con disabilità o con Disturbi Specifici di Apprendimento (DSA), oltre alla segnalazione tramite procedura informatizzata, sono invitati a comunicare anche direttamente al/la docente titolare dell'insegnamento, con un preavviso non inferiore ad una settimana dall'avvio della sessione d'esame, gli strumenti compensativi concordati con l'Unità Special Needs, al fine di permettere al/la docente la declinazione più idonea in riferimento alla specifica tipologia di esame.
In addition to the message sent by the online system, students with disabilities or Specific Learning Disorders (SLD) are invited to directly inform the professor in charge of the course about the special arrangements for the exam that have been agreed with the Special Needs Unit. The professor has to be informed at least one week before the beginning of the examination session in order to provide students with the most suitable arrangements for each specific type of exam.