Workload-aware power optimization strategy For heterogeneous systems

Because of the reaching of the power wall and the consequent end of the Moore’s law, over the past decade the trend in microprocessor design has shifted towards parallel architectures, such as multi/many-cores and Heterogeneous System Architecture (HSA) solutions to boost performance and reduce power consumption. Heterogeneity can provide different solutions and trade-offs at both performance and power/energy consumption ends. On the other hand, actual applications workloads have become more flexible and dynamic, and present different requirements to be satisfied as well. HSAs result to be the most suitable systems for this task, since they are able to both provide high performance and, at the same time, reducing power/energy consumption.
 One of the most interesting kind of HSA are asymmetric multiprocessor systems. Such architecture is composed of different computing clusters that share the same Instruction Set Architecture (ISA) but have different micro-architectures; hence different clusters target different goals. Therefore a combination of such computing units may be employed to accomplish various requirements.
 In this thesis we proposed a workload-aware run-time resource management policy, designed for asymmetric systems, that as the double goal of ensuring the desired Quality of Service (QoS) of running applications while optimizing the system power consumption. Such policy combines Dynamic Voltage and Frequency Scaling (DVFS) (one of the most explored approaches for energy efficiency, both in embedded and large scale systems) and task allocation techniques. The results proved that the proposed policy is able to achieve higher performance, in terms of throughput and power efficiency, than the state of the art heterogeneous scheduler designed for such architecture.

Dato il raggiungimento del power wall e la conseguente fine della legge di Moore, nell’ultima decade la tendenza nella progettazione dei microprocessori si è spostata verso le architetture parallele, come soluzioni multi/many-cores e architetture di sistemi eterogenei (HSA) per incrementare le prestazioni e ridurre i consumi di potenza. L’eterogeneità può fornire differenti soluzioni e compromessi ai fini sia delle prestazioni che del consumo di potenza/energia. D’altro canto, i carichi delle attuali applicazioni sono diventati più flessibili e dinamici, e, allo stesso modo, presentano differenti requisiti da soddisfare. HSA risultano essere i sistemi più adatti a questo compito, dato che sono in capaci sia di fornire alte prestazioni e, allo stesso tempo, di ridurre il consumo di potenza/energia. 
Una delle più interessanti tipologie di HSA sono i sistemi di multiprocessori asincroni. Tale architettura è composta da differenti cluster computazionali che condividono lo stesso Instruction Set Architecture (ISA) ma hanno differenti micro-architetture; quindi cluster differenti si concentrano su obiettivi differenti. Di conseguenza, una combinazione di tali unità di computazione può essere impiegata per soddisfare vari requisiti.
 In questa tesi proponiamo una politica di gestione delle risorse a run-time conscia del carico delle applicazioni, progettata per sistemi asincroni, che ha il doppio scopo di garantire la desiderata Quality of Service (QoS) delle applicazioni in esecuzione mentre ottimizza il consumo di potenza del sistema. Tale politica combina tecniche di Dynamic Voltage and Frequency Scaling (DVFS) (uno degli approcci più esplorati per l’efficienza energetica, sia in sistemi embedded che sistemi su larga scala) e di allocazione di task. I risultati dimostrano che la politica proposta è in grado di ottenere prestazioni più alte, in termini di throughput e consumo di potenza, dell’attuale scheduler eterogeneo progettato per questa architettura.