Caricamento in corso...
Formalization and Advanced Design of Neural Networks in Deep Learning
01TOSUR
A.A. 2024/25
Course Language
Inglese
Degree programme(s)
Doctorate Research in Scienze Matematiche - Torino
Course structure
| Teaching | Hours |
|---|---|
| Lezioni | 15 |
Lecturers
| Teacher | Status | SSD | h.Les | h.Ex | h.Lab | h.Tut | Years teaching |
|---|---|---|---|---|---|---|---|
| Della Santa Francesco | Ricercatore L240/10 | MATH-05/A | 15 | 0 | 0 | 0 | 1 |
Co-lectures
Context
| SSD | CFU | Activities | Area context | *** N/A *** | 3 |
|---|
Lo scopo del corso è fornire agli studenti gli strumenti per comprendere e innovare nel campo del Deep Learning, preparandoli ad utilizzare questa tecnologia in modo rigoroso ma creativo per affrontare le sfide della ricerca.
Il corso di dottorato fornirà agli studenti una comprensione rigorosa e approfondita del Deep Learning, integrando prospettive teoriche e pratiche. Il corso si concentra sulla formalizzazione matematica di concetti centrali, privilegiando un punto di vista basato sull’analisi numerica.
Un’attenzione particolare verrà dedicata agli aspetti dell’addestramento dei modelli e verrà inoltre presentata una tassonomia delle principali tipologie di layer per reti neurali, fornendo una classificazione strutturata e funzionale delle architetture più utilizzate. Si discuteranno infine criteri avanzati per la progettazione di layer e architetture "su misura", illustrando esempi concreti tratti dalla letteratura recente.
Una parte importante del corso sarà dedicata alla pratica: gli studenti avranno l’opportunità di costruire ed addestrare reti neurali, oltre a progettare ed implementare layer personalizzati.
The purpose of the course is to provide students with the tools to understand and innovate in the field of Deep Learning, preparing them to use this technology rigorously yet creatively to tackle research challenges.
The doctoral course is designed to provide students with a rigorous and in-depth understanding of Deep Learning, integrating both theoretical and practical perspectives. The course focuses on the mathematical formalization of key concepts, with an emphasis on a numerical analysis approach.
Particular attention will be given to model training aspects, and a taxonomy of the main types of layers for neural networks will be presented, offering a structured and functional classification of the most widely used architectures. Advanced criteria for the design of "custom-made" layers and architectures will also be discussed, with concrete examples drawn from recent literature.
A significant part of the course will be practical: students will have the opportunity to build and train neural networks, as well as design and implement custom layers.
Conoscenze base di Algebra Lineare ed Analisi Numerica (inclusa Ottimizzazione). Buona dimestichezza con Python e conoscenza base di TensorFlow o framework equivalenti (p.e., PyTorch)
Basic knowledge of Linear Algebra and Numerical Analysis (including Optimization). Good familiarity with Python and basic knowledge of TensorFlow or equivalent frameworks (e.g., PyTorch).
1. Formalizzazione matematica per il Deep Learning, prediligendo un punto di vista basato sull'analisi numerica.
2. Aspetti dell’addestramento di modelli di Deep Learning e "best practices".
3. Tassonomia dei principali tipi di layer per reti neurali.
4. Matematica e Deep Learning: l’importanza di una buona modellizzazione del problema e di una conoscenza teorica degli strumenti per affrontare problemi ad alta complessità.
5. Criteri per la costruzione di layer ed architetture "su misura" con esempi tratti dalla letteratura recente.
1. Mathematical formalization for Deep Learning, with an emphasis on a numerical analysis perspective.
2. Aspects of training Deep Learning models and "best practices."
3. Taxonomy of the main types of layers for neural networks.
4. Mathematics and Deep Learning: the importance of good problem modeling and a theoretical understanding of tools for tackling high-complexity problems.
5. Criteria for the construction of "custom-made" layers and architectures, with examples from recent literature.
In presenza
On site
Presentazione report scritto - Sviluppo di project work in team
Written report presentation - Team project work development
P.D.2-2 - Giugno
P.D.2-2 - June
Nella parte pratica del corso il docente si baserà sul linguaggio di programmazione Python ed il framework TensorFlow.
CALENDARIO PROVVISORIO:
1. Mercoledì 11/06/2025, 10:00-13:00;
2. Venerdì 13/06/2025, 10:00-13:00;
3. Lunedì 16/06/2025, 10:00-13:00;
4. Mercoledì 18/06/2025, 10:00-13:00;
5. Venerdì 20/06/2025, 10:00-13:00;
In the practical part of the course, the instructor will rely on the Python programming language and the TensorFlow framework.
TENTATIVE TIMETABLE:
1. Wednesday 11/06/2025, 10:00-13:00;
2. Friday 13/06/2025, 10:00-13:00;
3. Monday 16/06/2025, 10:00-13:00;
4. Wednesday 18/06/2025, 10:00-13:00;
5. Friday 20/06/2025, 10:00-13:00;