Ermes: enabling stateful serverless at the edge through a locality-aware migration policy

Serverless computing has emerged as a prominent paradigm for deploying applications without the overhead of underlying infrastructure management. Initially restricted to cloud environments, this model is rapidly expanding toward the network edge to accommodate latency-sensitive applications. Furthermore, its scope is expanding towards stateful environments, as modern workloads increasingly require access to data stores to maintain application state. Despite various efforts to adapt serverless computing for edge and stateful applications, current solutions lack a comprehensive Function-as-a-Service (FaaS) architecture that integrates internal storage, transparent migration for user locality, and data-aware function invocation. In this thesis we present Ermes, a platform designed to support stateful applications within the edge-cloud continuum. Our contributions are twofold. First, we establish a theoretical foundation for optimal resource placement by formulating a centralized Integer Linear Programming (ILP) model that minimizes global response times under node storage and computational constraints. Second, we propose a decentralized migration policy inspired by mechanical potential energy, where nodes autonomously move state and logic toward higher-demand areas of the network. Finally, we implement this framework into a functional distributed platform, providing a lightweight execution environment optimized for resource-constrained edge nodes. We evaluate our system by first assessing the computational limits of the centralized ILP model, used to establish a theoretical baseline. We then demonstrate that our distributed policy, integrated within the Ermes platform, closely aligns with this mathematical optimum. Furthermore, we conduct extensive stress tests to evaluate platform scalability under high request volumes, perform an ablation study on individual system components, and validate the platform's effectiveness in maintaining low latency during client migration. Our results indicate that Ermes effectively bridges the gap between serverless and edge computing, providing seamless data-aware execution in dynamic environments.

Il serverless computing si è affermato come paradigma di rilievo per l'implementazione di applicazioni senza l'onere della gestione dell'infrastruttura sottostante. Inizialmente limitato agli ambienti cloud, questo modello si sta rapidamente espandendo verso l'edge della rete per supportare applicazioni sensibili alla latenza. Inoltre, il suo ambito si sta estendendo verso applicazioni stateful, poiché i carichi di lavoro moderni richiedono sempre più l'accesso ad archivi di dati per mantenere lo stato delle applicazioni. Nonostante i vari sforzi per adattare il serverless computing all'edge e alle applicazioni stateful, le soluzioni attuali mancano di un'architettura completa Function-as-a-Service (FaaS) che integri storage interno, migrazione trasparente in base alla posizione dell'utente e invocazione di funzioni basate sui dati. In questa tesi, presentiamo Ermes, una piattaforma progettata per supportare applicazioni stateful nel continuum edge-cloud. Il nostro contributo è duplice. In primo luogo, stabiliamo una base teorica per il posizionamento ottimale delle risorse formulando un modello centralizzato di Programmazione Lineare Intera (ILP) che riduce al minimo i tempi di risposta globali in base ai vincoli di storage e computazionali dei nodi. In secondo luogo, proponiamo una politica di migrazione decentralizzata ispirata all'energia potenziale meccanica, in cui i nodi spostano autonomamente stato e logica verso aree della rete a maggiore richiesta. Infine, implementiamo questo framework in una piattaforma distribuita funzionale, fornendo un ambiente di esecuzione leggero e ottimizzato per nodi edge con risorse limitate. Valutiamo il nostro sistema prima mostrando limiti computazionali del modello ILP centralizzato, usato per stabilire una base teorica. Dimostriamo quindi che la nostra politica distribuita, integrata nella piattaforma Ermes, si allinea strettamente con questo optimum matematico. Inoltre, conduciamo approfonditi stress test per valutare la scalabilità della piattaforma in presenza di elevati volumi di richieste, eseguiamo uno studio di ablazione sui singoli componenti del sistema e convalidiamo l'efficacia della piattaforma nel mantenere una bassa latenza durante la migrazione dei client. I nostri risultati indicano che Ermes colma efficacemente il divario tra serverless ed edge computing, fornendo un'esecuzione fluida e basata sui dati in ambienti dinamici.