Docker cap : a software-level power capping orchestrator for docker containers

Internet of Things (IoT) is experiencing a huge hype these days, thanks to the increasing capabilities of embedded devices that enable their adoption in new fields of application (e.g. Wireless Sensor Networks, Connected Cars, Health Care, etc.). This is leading to an increasing adoption of multi-tenancy solutions of Cloud Computing that analyze and store data produced by embedded devices. To tackle latency and security requirements of these applications, Cloud Computing needs to extends its boundaries and to move closer to the physical devices. This led to the adoption of Fog Computing, where part of the computation is done near the embedded device by the so called "fog nodes". In this context, power consumption is a major concern as fog nodes can be battery powered and constrained by the environment in which they are deployed. Moreover, there is the need to assure some requirements on the performances of the hosted applications, specified in the Service Level Agreements (SLA). A fine-grain control mechanism is then needed to cap power consumption, still guaranteeing the SLA of the running applications. In this thesis, we propose DockerCap, a software-level power capping orchestrator for Docker containers that follows an Observe-Decide-Act (ODA) loop structure: this allows us to quickly react to changes that impact the power consumption by capping the resources of the containers at run-time, to ensure the desired power cap. Moreover, we implemented a policy-based system that, depending on the chosen policy, provides a fine-grain tuning on the performances of the running containers through resource management. We showed how we are able to obtain results that are comparable with the state of the art power capping solution RAPL provided by Intel, in terms of power consumption, even if the precision of our software approach is not as high as the one of a hardware mechanism. Still, we are able to tune the performances of the containers and even guarantee the constraints of the SLA: this is something that a completely hardware solution cannot handle. The study, implementation and validation have been developed within the NECSTLab at Politecnico di Milano.

L’ Internet of Things (IoT) sta diventando sempre più importante, grazie alle crescenti capacità dei dispositivi embedded e permettendo l’applicabilità in diversi settori (e.g. Wireless Sensor Networks, Connected Cars, Health Care). Questo sta portando a un aumento nell’adozione di soluzioni multi-tenancy per le infrastrutture Cloud Computing per analizzare e memorizzare i dati prodotti dai dispositivi embedded. Per gestire applicazioni con requisiti di latenza e sicurezza, il Cloud deve estendere la computazione vicino ai dispositivi fisici. Questo ha portato all’introduzione del Fog Computing, dove parte della computazione viene svolta vicino al dispositivo dai cosiddetti nodi fog. In questo contesto, il consumo di potenza è di primario interesse per i nodi, considerando che possono essere alimentati a batteria e vincolati dall’ambiente in cui si trovano. Oltretutto, c’è la necessità di garantire dei requisiti sulle prestazioni delle applicazioni, specificati nei Service Level Agreements (SLA). Serve quindi un sistema di controllo per limitare il consumo di potenza, garantendo inoltre i SLA delle applicazioni attive. In questa tesi, proponiamo DockerCap, un orchestrator che esegue power capping a livello software per container Docker, seguendo il controllo Observe-Decide-Act (ODA): questo permette di agire rapidamente ai cambiamenti che impattano sul consumo di potenza tramite l’allocazione delle risorse dei container a run-time, per garantire il limite di potenza. Oltretutto, abbiamo sviluppato un sistema di politiche che, a seconda della politica scelta, permette un controllo a grana fine delle prestazioni dei container tramite la gestione di risorse. Mostriamo come i risultati ottenuti sono comparabili con lo stato dell’arte RAPL di Intel, in termini di consumo di potenza, anche se la precisione del nostro approccio software non è alta come quella di un approccio hardware. Però, siamo in grado di regolare le prestazioni dei container e perfino garantire i vincoli dei SLA: ciò non è possibile con una soluzione hardware. Lo studio, l’implementazione e la validazione sono stati sviluppati al NECSTLab, del Politecnico di Milano