Detection of critical faults in deep neural networks via auxiliary models

Convolutional Neural Networks have become increasingly present in many applications nowadays, thanks to their abilities in visual recognition. While the reliability of such models with respect to faults has been thoroughly studied, the detection of critical faults, namely faults that alter the final prediction of the model, is still an open problem. In this master thesis we are propose a scheme to detect critical faults in Deep Neural Networks, focusing on classification models. The idea is to use two networks, the Main one, that performs the classification task, and the Auxiliary, that acts as a controller for the first. To avoid expensive overheads, the Auxiliary model is smaller in terms of parameters and operations to perform. Finally, the Critical Fault Detection Algorithms should determine whether the Main’s output has suffered the effect of faults by comparing it with the Auxiliary’s.

Le reti neurali convolutive sono diventate sempre più utilizzate oggigiorno grazie alle loro capacità nel riconoscimento di immagini. Anche se l'affidabilità di questi modelli rispetto ai guasti è stata studiata a fondo, l'individuazione dei guasti critici, quelli che vanno a influenzare la predizione finale, è un problema ancora aperto. In questa tesi magistrale noi proponiamo uno schema per individuare guasti critici nelle reti neurali profonde, principalmente modelli di classificazione. L'idea è di usare due reti, una chiamata Default, che classifica le immagini, e una chiamata Auxiliary, che fa da controllore per la prima. Auxiliary dovrà essere più piccola di Default in termini di parametri e operazioni da eseguire, così da ridurre i tempi di esecuzione. Infine, gli algoritmi per l'identificazione dei guasti critici determinano se ci sia stato un guasto critico o meno paragonando il risultato di Default con quello di Auxiliary.