Microelectronics industry has been driven by the Moore’s Law in the last decades, which led to robust cooperation between technologist, architects and packaging engineers to exponentially increase the performance of microprocessor, every couple of year. Unfortunately, many issues are tackling the mirage of eternal performance growth. Modern chips need to slow down their clock speed to control their intensive heating during computation and protect themselves from damage. Large amount of energy is spent for moving data from the memory to the processor in conventional Von- Neumann architectures, resulting in a bottleneck for the data-intensive era, which requires many memory accesses, dictated by the communication. To overcome these challenges, from one side new low-energy nano-scale devices are desired, from the other unconventional efficient architectures are needed. A proposal is heterogenous computing, where different specialized computing block carry on different tasks. For example, accelerating algebra problems, such as training and inference of a neural networks, requires highly specialized multiply-accumulate units able to perform matrix vector multiplication in one-step. One could imagine a computing system where these kind of computation are executed by a specialized processor. Human brain is another source of inspiration for designing a new computing architecture. In the brain, computing and memory happens in the same place without the need of transferring data between memory and logic units. Neuromorphic engineers are trying to mimic the behavior of human brain in hardware, to achieve high performance computation with a low energy system.
Emerging memory devices such as Resistive Random Access Memories (RRAM) and Phase Change Memories (PCM) have recently attracted the interest of industry as an enhancement of conventional memory technology thanks to their two terminal compact structure, low energy operation, fast access time, non volatility and compatibility with CMOS process. Interestingly, these new devices offers the possibility of analog programming, thus memorizing arbitrary number inside the material structure of the memory cell. Merging novel in-memory, brain inspired and specialized architectures with nanoelectronics emerging memories is the goal of this Ph.D. dissertation. Different computing paradigms, namely spiking neural networks and analog computing, have been explored and networks based on different emerging memories have been realized, demonstrating in hardware new computing concepts.

L’industria microelettronica è stata guidata dalla legge di Moore che ha portato a una robusta collaborazione tra innovazione tecnologica e commerciale per aumentare esponenzialmente le prestazioni dei microprocessori. Questo è stato reso possibile grazie alla riduzione nella dimensione dei dispositivi elettronici e la conseguente possibilità di inserirne di più in un’area fissata. Purtroppo, diversi problemi stanno rallentando il miraggio di una crescita eterna. Tra questi, l’eccessiva dissipazione di calore dei componenti ultra-scalati e i limiti fisici nel proseguire lo scaling con tecniche convenzionali. Inoltre nelle architetture tradizionali di tipo Von Neumann la maggior parte dell’energia e del tempo viene speso per trasferire dati dalla memoria al processore e viceversa, risultando in un collo di bottiglia detto Von Neumann bottleneck, che viene ulteriormente enfatizzato nella nostra epoca governata da un enorme scambio di dati. Per superare questi limiti, da un lato devono essere sviluppati nuovi ed efficienti dispositivi nanoelettronici e dall’altro bisogna realizzare architetture innovative in grado di favorire un calcolo più vicino alla memoria. Il cervello umano viene utilizzato come fonte d’ispirazione per realizzare architetture dove memoria e calcolo avvengono nella stessa unità. Gli ingegneri neuromorfici cercano di imitare il comportamento del cervello umano per arrivare a sistemi computazionale ad alte prestazioni energetico. Memorie emergenti come Resistive Random Access Memories (RRAM) e Phase Change Memories (PCM) hanno attratto l’interesse dell’industria come un compatto sostituto delle attuali tecnologie di memoria. Inoltre, questi nuovi dispotici offrono la possibilità di programmazione multilivello e neuromorfico. Esplorare innovative architetture in memoria e bio-ispirate con dispositivi di memoria emergenti è l’obiettivo della dissertazione di dottorato. Questi concetti sono stati dimostrati sperimentalmente in architetture hardware innovative.

In-memory computing with memristive devices

PEDRETTI, GIACOMO

Abstract

Microelectronics industry has been driven by the Moore’s Law in the last decades, which led to robust cooperation between technologist, architects and packaging engineers to exponentially increase the performance of microprocessor, every couple of year. Unfortunately, many issues are tackling the mirage of eternal performance growth. Modern chips need to slow down their clock speed to control their intensive heating during computation and protect themselves from damage. Large amount of energy is spent for moving data from the memory to the processor in conventional Von- Neumann architectures, resulting in a bottleneck for the data-intensive era, which requires many memory accesses, dictated by the communication. To overcome these challenges, from one side new low-energy nano-scale devices are desired, from the other unconventional efficient architectures are needed. A proposal is heterogenous computing, where different specialized computing block carry on different tasks. For example, accelerating algebra problems, such as training and inference of a neural networks, requires highly specialized multiply-accumulate units able to perform matrix vector multiplication in one-step. One could imagine a computing system where these kind of computation are executed by a specialized processor. Human brain is another source of inspiration for designing a new computing architecture. In the brain, computing and memory happens in the same place without the need of transferring data between memory and logic units. Neuromorphic engineers are trying to mimic the behavior of human brain in hardware, to achieve high performance computation with a low energy system.
Emerging memory devices such as Resistive Random Access Memories (RRAM) and Phase Change Memories (PCM) have recently attracted the interest of industry as an enhancement of conventional memory technology thanks to their two terminal compact structure, low energy operation, fast access time, non volatility and compatibility with CMOS process. Interestingly, these new devices offers the possibility of analog programming, thus memorizing arbitrary number inside the material structure of the memory cell. Merging novel in-memory, brain inspired and specialized architectures with nanoelectronics emerging memories is the goal of this Ph.D. dissertation. Different computing paradigms, namely spiking neural networks and analog computing, have been explored and networks based on different emerging memories have been realized, demonstrating in hardware new computing concepts.
PERNICI, BARBARA
RECH, IVAN
6-feb-2020
L’industria microelettronica è stata guidata dalla legge di Moore che ha portato a una robusta collaborazione tra innovazione tecnologica e commerciale per aumentare esponenzialmente le prestazioni dei microprocessori. Questo è stato reso possibile grazie alla riduzione nella dimensione dei dispositivi elettronici e la conseguente possibilità di inserirne di più in un’area fissata. Purtroppo, diversi problemi stanno rallentando il miraggio di una crescita eterna. Tra questi, l’eccessiva dissipazione di calore dei componenti ultra-scalati e i limiti fisici nel proseguire lo scaling con tecniche convenzionali. Inoltre nelle architetture tradizionali di tipo Von Neumann la maggior parte dell’energia e del tempo viene speso per trasferire dati dalla memoria al processore e viceversa, risultando in un collo di bottiglia detto Von Neumann bottleneck, che viene ulteriormente enfatizzato nella nostra epoca governata da un enorme scambio di dati. Per superare questi limiti, da un lato devono essere sviluppati nuovi ed efficienti dispositivi nanoelettronici e dall’altro bisogna realizzare architetture innovative in grado di favorire un calcolo più vicino alla memoria. Il cervello umano viene utilizzato come fonte d’ispirazione per realizzare architetture dove memoria e calcolo avvengono nella stessa unità. Gli ingegneri neuromorfici cercano di imitare il comportamento del cervello umano per arrivare a sistemi computazionale ad alte prestazioni energetico. Memorie emergenti come Resistive Random Access Memories (RRAM) e Phase Change Memories (PCM) hanno attratto l’interesse dell’industria come un compatto sostituto delle attuali tecnologie di memoria. Inoltre, questi nuovi dispotici offrono la possibilità di programmazione multilivello e neuromorfico. Esplorare innovative architetture in memoria e bio-ispirate con dispositivi di memoria emergenti è l’obiettivo della dissertazione di dottorato. Questi concetti sono stati dimostrati sperimentalmente in architetture hardware innovative.
Tesi di dottorato
File allegati
File Dimensione Formato  
thesis.pdf

solo utenti autorizzati dal 14/01/2021

Descrizione: Tesi
Dimensione 18.66 MB
Formato Adobe PDF
18.66 MB Adobe PDF   Visualizza/Apri

I documenti in POLITesi sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/10589/153417