| KEYWORD |
Sviluppo di un tool per Design Space Exploration (DSE) su reti neurali spiking.
Parole chiave DESIGN SPACE EXPLORATION, INTELLIGENZA ARTIFICIALE, NEURAL ARCHITECTURE SEARCH, NEUROMORPHIC COMPUTING, RETI NEURALI, RETI NEURALI SPIKING
Riferimenti STEFANO DI CARLO, ALESSANDRO SAVINO
Riferimenti esterni ALESSIO CARPEGNA
Gruppi di ricerca DAUIN - GR-24 - SMILIES - reSilient coMputer archItectures and LIfE Sci
Tipo tesi RICERCA APPLICATA, RICERCA SPERIMENTALE
Descrizione Le reti neurali spiking (Spiking Nerual Networks, SNN) sono un particolare tipo di rete neurale direttamente ispirato dal funzionamento di un cervello biologico, in cui i neuroni si scambiano informazioni in forma di impulsi di corrente (spike) di breve durata.
I modelli più diffusi di reti neurali, come Deep Neural Network (DNN) e reti neurali convoluzionali (Convolutional Neural Network, CNN), sono solo vagamente ispirati al funzionamento di una rete neurale biologica e utilizzano modelli matematici ottimizzati per risolvere determinati problemi, generalmente legati alla classificazione di dati di ingresso, ma distanti dal comportamento effettivo di un cervello animale. Al contrario, le reti neurali spiking sono sviluppate partendo direttamente dal modello matematico di un neurone biologico, cercando di descrivere l’evoluzione temporale dello stato del neurone quando stimolato con impulsi di ingresso. In letteratura si può trovare un gran numero di modelli diversi, dai più fedeli al comportamento biologico, e quindi più complessi, a quelli più ottimizzati per le prestazioni.
Come detto le reti spiking lavorano con brevi impulsi in ingresso e uscita. Tuttavia, i dati disponibili sono generalmente in forma numerica, a meno che essi non siano stati raccolti con speciali sensori neuromorfici. Ciò implica la necessità di codificare i dati di ingresso in forma di impulsi e decodificare l’uscita della rete, a sua volta composta da impulsi, in forma numerica. Anche in questo caso i metodi di codifica e decodifica sono molteplici.
Infine, la struttura stessa della rete può essere configurata in diversi modi. Supponendo di lavorare con una rete Feed Forward completamente connessa è necessario decidere il numero di strati e il numero di neuroni per ogni strato.
L’insieme delle possibili scelte da effettuare durante il progetto della rete è quindi molto vasto. L’obiettivo della tesi è quello di automatizzare il processo di ricerca della rete spiking ottimale per uno specifico problema, ovvero di eseguire una Design Space Exploration (DSE) completa sulla rete, seguendo le indicazioni dell’utente, ovvero cercando di ottimizzare la metrica richiesta, per esempio l’accurateza, rispettando dei vincoli, per esempio numero massimo di neuroni.
Il lavoro sarà incrementale:
1. Scelta di un dataset di riferimento
2. Scelta di un modello di riferimento
3. DSE sulla struttura di una rete spiking feed forward completamente connessa
4. Generalizzazione a diversi dataset
5. DSE su diversi tipi di codifica sullo stesso dataset
6. DSE su diversi modelli di neurone
Extra
Supponendo di finire il lavoro in un tempo utile, sarebbe interessante studiare strutture di rete diverse da quella feed forward completamente connessa.
In ogni caso il lavoro è già abbastanza impegnativo di per sé e quello di strutture di rete custom è un campo di ricerca relativamente nuovo, quindi sarebbe un super extra.
Conoscenze richieste Obbligatorie: analisi di dati, reti neurali, machine learning.
Opzionali: design space exploration. Questa può essere appresa durante la tesi.
Scadenza validita proposta 25/10/2023
PROPONI LA TUA CANDIDATURA