C - Affini o integrative A - Di base F - Altre attività (art. 10) D - A scelta dello studente
Attività formative affini o integrative Formazione matematica di base Altre conoscenze utili per l'inserimento nel mondo del lavoro A scelta dello studente
L'obiettivo principale del insegnamento è l'introduzione agli aspetti matematici di alcune aree dell'Intelligenza Artificiale.
The main objective of this course is to give an introduction to the mathematical aspects of certain areas of Artificial Intelligence.
- Comprensione e conoscenza delle tecniche presentate (conoscenza dettagliata della matematica sottostante; consapevolezza delle limitazioni delle tecniche presentate; coscienza dei problemi strutturali quali, ad esempio, la "curse of dimensionality").
- Capacità di applicazione pratica delle conoscenze acquisite (capacità di identificare il dominio di applicazione delle varie tecniche in rapporto alla natura dei dati; abilità nell'estrarre informazioni da dati reali e simulati attraverso l'applicazione delle tecniche apprese attraverso l'uso di software appositi o di codice autoprodotto).
- Knowledge and understanding of the presented techniques (detailed knowledge of the mathematics behind them; be acquainted of the limitations of the various techniques; awareness of the structural problem as e.r. the curse of dimensionality).
- Practical application of the acquired knowledge (ability to identify the applicability domain of the various techniques with respect of the nature of data; ability to extract information from real and simulated data by applying the learned techniques via software application or development).
Si richiede la pregressa conoscenza dei contenuti dei corsi matematici standard della laurea triennale in Ingegneria. Inoltre, è richiesta una buona conoscenza della probabilità e della statistica: pdf, cdf, media, varianza-covarianza.
The students are assumed to know the topics covered by standard courses in mathematics given in the Bs.D. in Engineering. Furthermore: a good knowledge in basic probability and statistics is required: pdf, normal, expectation, mean, variance-covariance; gradient and conjugate gradient methods will be taken as granted.
- Che cosa è l'Intelligenza Artificiale (IA - AI)? Fondamenti di Intelligenza Artificiale. Cenni di storia della IA. Stato dell'arte.
- PAC Learning, VC dimension, Rademacher Complexity.
- Basics of Learning: training, validation, test, cross-validation, bootstrapping.
- Curse of dimensionality: geometria alto dimensionale.
- Analisi a componenti principali e analisi discriminante di Fisher.
- SVM. kernels e RKHS. SVM come equilibrio di Nash.
- Multilayer perceptron: feed forwarding, backpropagation, batch, mini-batch, SGD
- Hopfield networks.
- Processi di diffusione e loro applicazione in ML.
- What Is AI? The Foundations of Artificial Intelligence; The History of Artificial Intelligence; The State of the Art.
- Revision of Linear Algebra, Probability, Statistics and Optimization.
- What Is Statistical Learning? Supervised, Unsupervised, Reinforcement and Semi-supervised Learning: examples. The Trade-Off Between Prediction Accuracy and Model Interpretability. Assessing Model Accuracy. Measuring the Quality of Fit. Validation and Cross-Validation. The Bias-Variance Trade-Off.
- Metric and topological spaces. Curse of dimensionality; The Law of Large Numbers; the Geometry of High Dimensions: properties of the Unit Ball; Random Projection and Johnson-Lindenstrauss Lemma.
- SVD and its application to Principal Components Analysis and Fisher Discriminant Analysis.
- Classification Using a Separating Hyperplane. The Maximal Margin Classifier. Construction of the Maximal Margin Classifier. The Non-separable Case. Support Vector Classifiers. Support Vector Machines. Kernel Methods, representer and Mercer¿s theorems.
- Basics of game theory; Multi-agent systems; Adversarial Learning; Reinforcement Learning: Q-learning, Nash equilibria.
Lezioni, esercitazioni e laboratori. Ci saranno 40 ore di lezione, 20 di esercitazioni e 20 di laboratorio
Lessons, exercise classes and laboratory sessions will be given. There will be three hours of lesson per week plus one hour and half of exercises / laboratories.
- Understanding machine learning: From theory to algorithms.
Shalev-Shwartz, Shai, and Shai Ben-David.
Cambridge University Press, 2014.
Stuart J. Russell, Stuart Jonathan Russell, Peter Norvig, Ernest Davis
Prentice Hall, 2010
An Introduction to Statistical Learning
with Applications in R
JAMES GARETH; WITTEN DANIELA; HASTIE TREVOR; TIBSHIRANI ROBERT
Data Science and Machine Learning: Mathematical and Statistical Methods
Dirk P. Kroese, Zdravko I. Botev, Thomas Taimre, Radislav Vaisman
CRC Press, 2019 - 510 pagine
Slides; Esercizi; Esercitazioni di laboratorio; Esercitazioni di laboratorio risolte; Video lezioni dell’anno corrente; Video lezioni tratte da anni precedenti;
Lecture slides; Exercises; Lab exercises; Lab exercises with solutions; Video lectures (current year); Video lectures (previous years);
E' possibile sostenere l’esame in anticipo rispetto all’acquisizione della frequenza
You can take this exam before attending the course
Modalità di esame: Prova scritta (in aula); Prova orale obbligatoria; Elaborato scritto individuale; Elaborato scritto prodotto in gruppo;
Exam: Written test; Compulsory oral exam; Individual essay; Group essay;
...
L'obiettivo dell'esame è l'accertamento della conoscenza dei contenuti teorici del insegnamento e della capacità di declinarli nell'analisi dei dati.
L'esame è strutturato come segue
- Prova scritta sui temi di fisica matematica e AI - Durata 30 minuti - Multiple choices .
Voto massimo 12.
- Tesina, anche in gruppi di massimo tre persone, sull'analisi di un dataset messo a disposizione dai docenti durante il insegnamento, ed eseguita usando i metodi appresi a lezione.
La tesina sarà presentata in una prova orale di circa 15 minuti durante la quale saranno anche poste domande sui contenuti di tipo teorico ed esercizi risolti in aula presentati nel insegnamento.
Voto massimo tesina: 12.
Voto massimo orale: 9
Il voto finale sarà la somma algebrica dei voti di cui sopra, espresso in trentesimi. Chi otterrà 33 avrà 30/30 e Lode.
Gli studenti e le studentesse con disabilità o con Disturbi Specifici di Apprendimento (DSA), oltre alla segnalazione tramite procedura informatizzata, sono invitati a comunicare anche direttamente al/la docente titolare dell'insegnamento, con un preavviso non inferiore ad una settimana dall'avvio della sessione d'esame, gli strumenti compensativi concordati con l'Unità Special Needs, al fine di permettere al/la docente la declinazione più idonea in riferimento alla specifica tipologia di esame.
Exam: Written test; Compulsory oral exam; Individual essay; Group essay;
L'obiettivo dell'esame ¿ l'accertamento della conoscenza dei contenuti teorici del corso e della capacit¿ di declinarli nell'analisi dei dati.
L'esame consiste in due parti: dapprima si dovr¿ realizzare una relazione, detta informalmente "tesina", anche in gruppi di massimo tre persone, sull'analisi di un dataset messo a disposizione dai docenti durante il corso, ed eseguita usando i metodi appresi a lezione.
La tesina sar¿ presentata in una prova orale di circa 15 minuti durante la quale saranno anche poste domande sui contenuti di tipo teorico presentati nel corso.
Il voto finale sar¿ deciso a valle della prova orale tenendo in considerazione: la qualit¿ della tesina, della sua esposizione, e il livello di comprensione delle tematiche teorico-modellistiche emerso dal colloquio.
In addition to the message sent by the online system, students with disabilities or Specific Learning Disorders (SLD) are invited to directly inform the professor in charge of the course about the special arrangements for the exam that have been agreed with the Special Needs Unit. The professor has to be informed at least one week before the beginning of the examination session in order to provide students with the most suitable arrangements for each specific type of exam.