System wide run time resource management for clustered many core platform. Experimental evaluation of the Barbeque RTRM approach

Since a few years, the approach to the design of computational architecture has undergone a major change. The race to the overcoming of the gigahertz barriers, of the CPU clock frequencies, has come to a halt. The current trend moves accordingly to the concept of parallelism. Designers are pushing this idea to the extreme, by trying to allocate on the same die an always greater number of computational units (core or processing elements). Accordingly Multi-Core processors were born, originally addressed only to server and then desktop systems, until now. Nowadays indeed, Multi-Core based System-on- Chips have approached the Embedded Systems world, starting a real revolution. Looking at the horizon, new architectures are going to be labeled as Many-Core, where the number of computing units should be of tens. Embedded Systems are knowing a great interest in these platforms, for many reasons, besides the computational. Indeed, this availability of a huge amount of resources would provide to designers a good, and flexible, alternative to the expensive ASIC. However, these opportunities are also challenge. Power budget, thermal response, real-time requirements, are still critical constraints to take into account. Therefore, a Run-Time Resource Management is needed, in order to collect the QoS requests of the applications and grant resources, on the basis of a smart scheduling policies and the run-time status of the platform. The 2PARMA project was born with the aim of exploit the parallelism of these new (and forthcoming) architecture, by acting both at design-time and run-time, taking into account the problems concerning resource management and QoS of the applications. This thesis focuses the work around the development of the Barbeque Run-Time Resource Manager, which is part of the 2PARMA project. The Barbeque RTRM is a portable software solution, performing the dynamic runtime assignment of the resources to the applications. The tests have shown quite promising performance and sustainable overheads. A first scheduling policy has been implemented, which minimize the fragmentation in the resource usage, along with the respect of the application priorities.

Da alcuni anni, l’approccio alla progettazione di architetture di calcolo ha subito un grande cambiamento. La corsa al superamento delle barriere dei gigahertz, nelle frequenze di clock della CPU, ha subito una battuta d’arresto. L’attuale tendenza punta a sfruttare il concetto di parallelismo. I progettisti stanno spingendo questo approccio all’estremo, cercando di allocare sullo stesso die un numero sempre maggiore di unità computazionali (detti processing elements, o cores). Di conseguenza, processori Multi-core hanno fatto la loro comparsa sul mercato. Malgrad questi fossero inizialmente indirizzati al mercato server e desktop, questo genere di soluzioni hanno fatto breccia anche nel mondo dei Sistemi Embedded, grazie ai Multi-Core based System-on-Chip. Guardando all’orizzonte, le nuove architetture che stanno per essere lanciate verranno etichettate con la definizione di Many-Core. Questo a rappresentare il fatto che il numero di unità di calcolo fornito dovrebbe essere nell’ordine delle decine. I Sistemi Embedded si stanno affacciando con grande interesse a questo genere di piattaforme. I motivi in questo caso sono molteplici, e vanno aldilà delle sole capacità computazionali. L’enorme disponibilità di risorse hardware infatti, permetterebbe ai progettisti di disporre, in molti casi, di una alternativa agli ASIC. Questi di norma, rappresentano soluzioni (HW) costose e con una fase di progettazione piuttosto lunga. Per contro, architetture Many-Core permetterebbero di implementare la stessa soluzione per via software, guadagnando in flessibilità e costi. Questo ovviamente, laddove i vincoli di performance, consumo di potenza e occupazione di area si dimostrino rispettati. E’ da questo punto di vista che le architetture Many-Core si presentano come una opportunità e allo stesso come una sfida per i progettisti. In quest’ottica e nato il progetto europeo 2PARMA. Esso si si propone di sfruttare il parallelismo di queste nuove architetture, intervendo sia in fase di design che a run-time, tenendo conto dei vincoli in termini di consumo di potenza e andamento termico. Barbeque Run-Time Resource Manager e una sistema di gestione dinamica delle risorse, completamente implementato in software, ed è parte del progetto 2PARMA. Abbiamo verificato come le performance del framework siano promettenti, e come gli overhead siano assolutamente sostenibili. La politica di scheduling, seppur migliorabile, garantisce un buon comportamento in termini di prevenzione della frammentazione nell’assegnazione delle risorse, e nella gestione degli arrivi di applicazioni critiche.