QoS-aware run-time task allocation in heterogeneous fog architecture : a video surveillance scenario

Over the last years, the number of IoT devices has grown exponentially. This trend highlights the limitations of the current Cloud infrastructure, not designed neither to deal with the volume of data generated by IoT devices nor to support the real-time requirements of emerging applications. In this context, new computing paradigms like Fog and Edge computing began to explore the possibility of extending the services offered by the Cloud to be closer to the source of data. This requires additional computations to distribute the load between interconnected mobile devices and smart objects, taking into account their resource constraints. In this regard, it becomes compelling the need for a novel programming model, as well as resource management and tasks scheduling approaches able to deal with the heterogeneity of the involved devices. This thesis presents the analysis and the implementation of a video surveillance use-case application in a Fog computing scenario. By leveraging the MAN-GO programming model, the application is decomposed into tasks that can be deployed on the available devices on the network, guided by the BarbequeRTRM resource manager. In this regard, we propose two different scheduling policies, LAVA and LAVAnet, to maximize application performance, considering run-time aspects, such as load and connectivity, of the time-varying available devices. Through an experimental evaluation performed on a real cluster equipped with heterogeneous embedded boards, we will provide different execution scenarios to show the functionality of the framework and the benefit of a distributed approach, leading up to an improvement of 66% on the frame processing latency.

Negli ultimi anni il numero di dispositivi IoT è cresciuto in maniera esponenziale, evidenziando le limitazioni dell'attuale infrastruttura Cloud, non progettata per gestire un così grande volume di dati né per supportare i requisiti delle applicazioni emergenti. In questo contesto, nuovi paradigmi di computazione hanno cominciato ad esplorare la possibilità di estendere i servizi offerti dal Cloud verso l'esterno della rete, utilizzando dispositivi geograficamente più vicini a dove i dati vengono generati. Ciò richiede l'esecuzione di calcoli aggiuntivi per distribuire il carico tra i dispositivi mobili e gli oggetti interconnessi, tenendo conto di eventuali vincoli sulle risorse. A questo proposito, diventa impellente la necessità di un nuovo modello di programmazione, nonché di nuovi approcci di gestione delle risorse e di distribuzione delle singole parti di un'applicazione, in grado di affrontare l'eterogeneità dei dispositivi coinvolti. Questa tesi presenta l'analisi e l'implementazione di un'applicazione di videosorveglianza in uno scenario sperimentale di Fog computing. Sfruttando il modello di programmazione sviluppato all'interno del progetto europeo MANGO, l'applicazione è scomposta in moduli che possano essere distribuiti sui dispositivi disponibili in rete, tramite l'utilizzo del software BarbequeRTRM. A tal proposito, proponiamo due differenti politiche di distribuzione dei moduli con l'obiettivo di massimizzare le prestazioni dell'applicazione, considerando alcuni aspetti, quali carico e connettività, dei dispositivi disponibili al momento dell'esecuzione. Successivamente, una valutazione sperimentale eseguita su un sistema reale, fornirà diversi scenari di esecuzione mostrando come con le funzionalità offerte dall'adozione del framework e l'utilizzo delle politiche proposte si ottenga un miglioramento fino al 66% della latenza di elaborazione.