L'intelligenza artificiale (AI) è oggi una scienza in rapida evoluzione che prevede la creazione di macchine intelligenti in grado di fornire numerosi vantaggi economici e sociali. Per le sue numerose qualità, l'AI può fornire vantaggi competitivi alle aziende e, in generale, alla società. Tuttavia, l'uso diffuso di sistemi basati sull'AI ha sollevato diverse preoccupazioni circa il loro impiego in sistemi ad alto rischio, ossia sistemi il cui danneggiamento potrebbe causare perdite umane. In effetti, l'AI comporta nuove sfide e rischi e, nel peggiore dei casi, conseguenze negative per gli individui e la società, come definito dalla legge europea sull'AI. In primo luogo, il corso introdurrà i concetti di base sull'affidabilità dei sistemi complessi, sul deep learning e fornirà una panoramica delle principali architetture hardware adottate per l'esecuzione degli algoritmi di AI, ovvero GPU, ASIC, TPU e acceleratori hardware. Verrà posto l'accento sul panorama della standardizzazione dell'AI: verranno illustrati alcuni dei principali standard industriali internazionali. Successivamente, la prima parte del corso presenterà le metodologie accademiche e industriali più rappresentative proposte per valutare il livello di safety dei sistemi moderni. Il corso affronterà principalmente, ma non solo, gli approcci basati sull'iniezione di guasti a livello di software, architetturali e del dispositivo (ad esempio, tramite esperimenti di radiazione). Gli studenti avranno la possibilità di eseguire esperimenti di iniezione di guasti in scenari industriali reali forniti dall'esperienza di NVIDIA. Ciò avverrà sfruttando i più diffusi strumenti di iniezione di guasti (ad esempio, PyTorchFI) con modelli di guasto rappresentativi (ad esempio, guasti permanenti e transitori sui pesi sinaptici delle reti neurali, neuroni artificiali). La seconda parte del corso si concentrerà sulla descrizione degli approcci utilizzati per aumentare la safety dei sistemi di intelligenza artificiale. Verranno presentati approcci di mitigazione dei guasti (attivi e passivi) e di rilevamento dei guasti (ad esempio, librerie di test basate su codici o su immagini). Per concludere, il corso discuterà le tendenze e le sfide future. La parte finale del corso consisterà in un progetto di gruppo composto da un massimo di 3 studenti e prevederà la consegna di un report finale.

Una conoscenza minima dei seguenti campi può aiutare: - Intelligenza artificiale e deep learning - Architettura degli elaboratori

Introduzione - L'utilizzo crescente di modelli di intelligenza artificiale (AI) nei sistemi ad alto rischio - Necessità di garanzie di sicurezza: standards, norme, EU AI Act Background - Nozioni di base sulla dependability - Nozioni di base sul deep learning - Nozioni di base sull'hardware usato per l’AI - Architetture di AI di nuova generazione Parte I: Valutazione della safety dei sistemi di AI - L'universo dell’AI safety: modelli di guasto, localizzazione dei guasti, metodi di iniezione dei guasti, metriche - Soluzioni industriali e accademiche rappresentative per la valutazione della safety dei sistemi di AI Parte II: Aumentare la safety dei sistemi di intelligenza artificiale - Mitigazione dei guasti: strategie attive e passive - Rilevamento dei guasti: soluzioni basate sul software, ad esempio librerie di test formate da codice (STL), librerie di test formate da immagini (ITL) Conclusioni, nuove tendenze e sfide future.

In presenza

Presentazione orale - Presentazione report scritto

P.D.2-2 - Maggio