The power-wall problem caused by the stagnation of supply voltages in deep-submicron technology nodes, is now the major scaling barrier for towards the manycore era. Although the technology scaling enables extreme volumes of computational power, power budget violations will permit only a limited portion to be actually exploited, leading to the so called Dark Silicon. Near-Threshold voltage Computing (NTC) has emerged as a promising approach to overcome the manycore power-wall, at the expense of reduced performance values and higher sensitivity to process variation. Given that several application domains operate over specific performance constraints, the performance sustainability is considered a major issue for the wide adoption of NTC. Thus, in this thesis, we investigate how performance guarantees can be ensured when moving towards NTC manycores through variability-aware voltage and frequency allocation schemes. We propose different aggressive NTC voltage tuning and allocation strategies, showing that performance can be efficiently sustained or even optimized at the NTC regime and we show that NTC advantages and gains highly depend on the underlying workload characteristics. However, given the increased impact of variability in NTC, delivering the appropriate voltages can be a very demanding task, thus the power delivery scheme has to be evaluated and optimized. We extend our research and show that when the workload characteristics of the applications are analyzed and considered at runtime, significant power savings can be obtained even when using existing, cost-effective power delivery techniques, while meeting the application performance constraints imposed in the first place. Finally, we make a first attempt to make show that, in NTC, there is ample place for optimizations at runtime that can provide extra energy savings: by proposing a lightweight runtime algorithm for balancing throughput under process and workload variability we managed to gain significant power savings without impacting performance.

Il problema di alimentazione a parete causata dal ristagno di tensioni di alimentazione in nodi tecnologici profonda submicron, è oggi il principale ostacolo di scala per verso l'era multi-core. Anche se il ridimensionamento tecnologia permette di volumi estremi di potenza di calcolo, le violazioni di bilancio potere consentiranno solo una parte limitata per essere effettivamente sfruttate, che porta alla cosiddetta Silicon scuro. Near-Threshold Computing tensione (NTC) è emerso come un approccio promettente per superare il potere-muro multi-core, a scapito dei valori delle prestazioni ridotte e una maggiore sensibilità alle variazioni di processo. Dato che diversi domini applicativi operano su specifici vincoli di prestazioni, la sostenibilità delle prestazioni è considerata una questione importante per l'ampia adozione di NTC. Così, in questa tesi, indaghiamo come garanzie di prestazioni possono essere garantite durante lo spostamento verso manycores NTC attraverso schemi di tensione e di assegnazione delle frequenze di variabilità-aware. Vi proponiamo diverse strategie di ottimizzazione di tensione e di allocazione NTC aggressivi, dimostrando che le prestazioni possono essere efficacemente sostenuta o addirittura ottimizzato al regime NTC e mostriamo che i vantaggi NTC e guadagni altamente dipendono dalle caratteristiche del carico di lavoro di fondo. Tuttavia, data la maggiore impatto della variabilità NTC, fornendo le tensioni appropriate può essere un compito molto impegnativo, in tal modo il regime di erogazione di potenza deve essere valutata e ottimizzata. Estendiamo la nostra ricerca e dimostrano che quando le caratteristiche dei carichi di lavoro delle applicazioni vengono analizzati e considerati in fase di esecuzione, un notevole risparmio di energia possono essere ottenuti anche quando si utilizza ing esistente, tecniche di erogazione di potenza di costo-efficacia, nel rispetto dei vincoli di performance applica zione imposti il primo posto. Infine, facciamo un primo tentativo di fare spettacolo che, in NTC, c'è un ampio posto per ottimizzazioni in fase di esecuzione in grado di fornire un risparmio energetico in più: proponendo un algoritmo di runtime leggero per bilanciare il throughput sotto processo e il carico di lavoro variabilità siamo riusciti a ottenere il potere significativo risparmio senza influire sulle prestazioni.

Near-threshold computing with performance guarantees for manycore architecture

STAMELAKOS, IOANNIS

Abstract

The power-wall problem caused by the stagnation of supply voltages in deep-submicron technology nodes, is now the major scaling barrier for towards the manycore era. Although the technology scaling enables extreme volumes of computational power, power budget violations will permit only a limited portion to be actually exploited, leading to the so called Dark Silicon. Near-Threshold voltage Computing (NTC) has emerged as a promising approach to overcome the manycore power-wall, at the expense of reduced performance values and higher sensitivity to process variation. Given that several application domains operate over specific performance constraints, the performance sustainability is considered a major issue for the wide adoption of NTC. Thus, in this thesis, we investigate how performance guarantees can be ensured when moving towards NTC manycores through variability-aware voltage and frequency allocation schemes. We propose different aggressive NTC voltage tuning and allocation strategies, showing that performance can be efficiently sustained or even optimized at the NTC regime and we show that NTC advantages and gains highly depend on the underlying workload characteristics. However, given the increased impact of variability in NTC, delivering the appropriate voltages can be a very demanding task, thus the power delivery scheme has to be evaluated and optimized. We extend our research and show that when the workload characteristics of the applications are analyzed and considered at runtime, significant power savings can be obtained even when using existing, cost-effective power delivery techniques, while meeting the application performance constraints imposed in the first place. Finally, we make a first attempt to make show that, in NTC, there is ample place for optimizations at runtime that can provide extra energy savings: by proposing a lightweight runtime algorithm for balancing throughput under process and workload variability we managed to gain significant power savings without impacting performance.
BONARINI, ANDREA
AMIGONI, FRANCESCO
20-dic-2016
Il problema di alimentazione a parete causata dal ristagno di tensioni di alimentazione in nodi tecnologici profonda submicron, è oggi il principale ostacolo di scala per verso l'era multi-core. Anche se il ridimensionamento tecnologia permette di volumi estremi di potenza di calcolo, le violazioni di bilancio potere consentiranno solo una parte limitata per essere effettivamente sfruttate, che porta alla cosiddetta Silicon scuro. Near-Threshold Computing tensione (NTC) è emerso come un approccio promettente per superare il potere-muro multi-core, a scapito dei valori delle prestazioni ridotte e una maggiore sensibilità alle variazioni di processo. Dato che diversi domini applicativi operano su specifici vincoli di prestazioni, la sostenibilità delle prestazioni è considerata una questione importante per l'ampia adozione di NTC. Così, in questa tesi, indaghiamo come garanzie di prestazioni possono essere garantite durante lo spostamento verso manycores NTC attraverso schemi di tensione e di assegnazione delle frequenze di variabilità-aware. Vi proponiamo diverse strategie di ottimizzazione di tensione e di allocazione NTC aggressivi, dimostrando che le prestazioni possono essere efficacemente sostenuta o addirittura ottimizzato al regime NTC e mostriamo che i vantaggi NTC e guadagni altamente dipendono dalle caratteristiche del carico di lavoro di fondo. Tuttavia, data la maggiore impatto della variabilità NTC, fornendo le tensioni appropriate può essere un compito molto impegnativo, in tal modo il regime di erogazione di potenza deve essere valutata e ottimizzata. Estendiamo la nostra ricerca e dimostrano che quando le caratteristiche dei carichi di lavoro delle applicazioni vengono analizzati e considerati in fase di esecuzione, un notevole risparmio di energia possono essere ottenuti anche quando si utilizza ing esistente, tecniche di erogazione di potenza di costo-efficacia, nel rispetto dei vincoli di performance applica zione imposti il primo posto. Infine, facciamo un primo tentativo di fare spettacolo che, in NTC, c'è un ampio posto per ottimizzazioni in fase di esecuzione in grado di fornire un risparmio energetico in più: proponendo un algoritmo di runtime leggero per bilanciare il throughput sotto processo e il carico di lavoro variabilità siamo riusciti a ottenere il potere significativo risparmio senza influire sulle prestazioni.
Tesi di dottorato
File allegati
File Dimensione Formato  
2016_12_PhD_Stamelakos.pdf

accessibile in internet per tutti

Descrizione: Thesis Text
Dimensione 2.97 MB
Formato Adobe PDF
2.97 MB Adobe PDF Visualizza/Apri

I documenti in POLITesi sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/10589/129562