Progetto e valutazione di una rete neurale eseguita su un sistema embedded a bassa potenza

In recent years, following the increasing diffusion of embedded systems connected to small batteries and equipped with sensors that continuously collect data, there has been a spike in the research of machine learning algorithms that process the acquired information directly on these devices. These intelligent algorithms are designed to be executed by systems with much greater computing capacity and they need to be adapted to accom- modate the stringent requirements of tiny microcontrollers. The goal of this thesis is to assess the feasibility of executing machine learning al- gorithms on STREDL, a ultra low-power microprocessor developed by STMicroelectronics. In this work, many neural network models have been explored in order to solve the problem of keyword spotting, i.e. the identifi- cation of specific words in a sound signal. A deep neural network that fully satisfies these constraints with excellent accuracy was found, demonstrat- ing that it is possible to execute machine learning algorithms on devices with limited power such as the STREDL.

Negli ultimi anni, in seguito alla sempre maggiore diffusione di sistemi embedded, collegati a una piccola batteria e dotati di sensori che raccolgono continuamente dati, è aumentata la ricerca di algoritmi di apprendimento automatico che elaborino le informazioni acquisite direttamente su questi dispositivi. Questi algoritmi intelligenti, nati per essere eseguiti da sistemi con capacità di calcolo decisamente maggiore, hanno tuttavia bisogno di essere adattati per accomodare i requisiti stringenti di microcontrollori a basso consumo energetico. L’obiettivo di questa tesi è di verificare la possi- bilità di eseguire algoritimi di apprendimento automatico sullo STREDL, un microprocessore sviluppato da STMicroelectronics con una capacità di calcolo limitata. In questo lavoro, è stato studiato il campo del keyword spotting, cioè il riconoscimento di parole chiave all’interno di un segnale audio. È stato esplorato l’utilizzo di modelli di apprendimento profondo capaci di risolvere questo problema con un basso impatto computazionale, senza rinunciare a una buona accuratezza. Partendo dai modelli presen- ti in letteratura, sono state esplorate diverse architetture di reti neurali, tenendo conto dei limiti dello STREDL per quanto riguarda numero di operazioni e memoria disponibile. È stata così trovata una rete neura- le profonda feed-forward che soddisfa pienamente i vincoli imposti e che risolve con un’ottima accuratezza il problema del keyword spotting, dimo- strando che è possibile eseguire algoritmi di apprendimento automatico anche su dispositivi con una potenza limitata come lo STREDL.