Enabling power-awareness for multi-tenant systems

Power consumption has become a major concern for almost every digital system: from the smallest embedded devices to the biggest data centers, energy and power budgets are always constraining the performance of the system. Moreover, the actual power consumption of these systems is strongly affected by their current "working regime" (e.g., from idle to heavy-load conditions, with all the shades in between), which depends on the guest applications they host, as well as on the external interactions these are subject to. It is then difficult to make accurate predictions on the power consumed by the whole system over time, when it is subject to constantly changing operating conditions: a self-aware and goal-oriented approach to resource allocation may then improve the instantaneous performance of the system, but still the definition of energy saving policies remains not trivial as far as the system is not really able to learn from experience in real world scenarios. In this context, this thesis proposes a holistic power modeling framework that a wide range of energy and power constrained systems can use to profile their energy and power consumption. Starting from the preliminary experience developed on power consumption models for mobile devices during my M.Sc. thesis, I designed a general methodology that can be tailored on the actual system's features, extracting a specific power model able to describe and predict the future behavior of the observed entity. This methodology is meant to be provided in an "as-a-service" fashion: at first, the target system is instrumented to collect power metrics and workload statistics in its real usage context; then, the collected measurements are sent to a remote server, where data is processed using well known techniques (e.g., Principal Components Analysis, Markov Decision Chains, ARX models, etc.); finally, an accurate power model is built as a function of the metrics monitored on the instrumented system. The generalized approach has been validated in the context of power consumption models for multi-tenant virtualized infrastructures, outperforming results from the state of the art. Finally, the experience developed on power consumption models for server infrastructures led me to the design of a power-aware and QoS-aware orchestrator for multi-tenant systems. On the one hand, I propose a performance-aware power capping orchestrator in a virtualized environment, that aims at maximizing performance under a power cap. On the other hand, I bring the same concepts into a different approach to multi-tenancy, i.e., containerization, thus moving the first steps towards power-awareness for Docker containers orchestration, laying the basis for further research work.

Il consumo di energia rimane un vincolo stringente per qualsiasi sistema digitale: dai più piccoli dispositivi embedded ai più grandi datacenter mai costruiti, esiste sempre un budget energetico che limita le prestazioni del sistema. Inoltre, il consumo effettivo di questi sistemi è fortemente influenzato dal loro attuale "punto di lavoro" (ad esempio, dalla quasi completa inattività fino a condizioni di carico elevate), che dipende dalle applicazioni in esecuzione sul sistema e dalle interazioni esterne a cui questo è soggetto. È quindi difficile fare previsioni accurate sull'energia consumata dal sistema nel tempo quando le sue condizioni di lavoro cambiano continuamente: un'allocazione mirata delle risorse può certamente migliorare le prestazioni e l'efficienza istantanee, ma la definizione di politiche di risparmio energetico globali rimane non banale se il sistema non è realmente in grado di imparare dall'esperienza, soprattutto quando viene messo in produzione nel suo reale contesto di utilizzo. Date queste premesse, la tesi propone una metodologia per la costruzione di modelli di potenza sufficientemente generica, pensata per essere utilizzata per modellare i consumi di una vasta gamma di sistemi digitali. Partendo dall'esperienza maturata nel campo dei modelli di potenza per smartphone e tablet, la metodologia è stata opportunamente estesa e generalizzata per poter essere adattata alle caratteristiche del sistema in esame, in modo da costruirne un modello che possa poi essere utilizzato per predire il suo comportamento energetico futuro. La suddetta metodologia è stata implementata secondo il paradigma "as-a-Service": in un primo momento, il comportamento energetico del sistema viene osservato durante la sua normale operatività, raccogliendo metriche di consumo e statistiche sul carico di lavoro nel suo contesto di reale utilizzo; in un secondo momento, le misurazioni raccolte vengono inviate ad un server remoto, che si occuperà dell'analisi automatica dei dati utilizzando tecniche note in letteratura (ad esempio, PCA, catene di Markov, modelli ARX, ecc.); un modello di potenza del sistema viene infine generato in funzione dei parametri monitorati. La presente metodologia è stata validata nella costruzione di modelli di potenza per sistemi virtualizzati e multi-tenant, migliorando la precisione ottenuta da lavori precedenti. Infine, l'esperienza sviluppata nel campo mi ha portato alla progettazione di un orchestratore di sistemi multi-tenant che fosse power-aware e QoS-aware, ossia che fosse in grado di tenere in considerazione sia i vincoli energetici che i requisiti delle applicazioni. Inizialmente ho sviluppato un orchestratore in grado di massimizzare le prestazioni delle applicazioni in esecuzione su un sistema virtualizzato quando questo è soggetto ad un vincolo sulla potenza consumata. Successivamente, i medesimi concetti applicati in ambiente virtualizzato sono stati implementati in un ambiente “containerizzato”, muovendo i primi passi verso la definizione di un orchestratore power-aware per container Docker e ponendo le basi per lavori di ricerca futuri.