In-memory computing with non-volatile spin-orbit-torque magnetoresistive random-access memories

Since the 1970s computers have relied on the CMOS technology scaling to deliver expo- nential improvement in performance. At the beginning of the 21st century, this approach began to encounter physical limitations, which led to a slowdown in this exponential growth. Another limitation in performance stems from the von Neumann architecture, where memory and the processor are physically separated. In modern computing, the most time-consuming and energy-consuming parts of the computation are often not the computation itself, but rather the transfer of data between the processor and the memory. This is known as the von Neumann bottleneck. Efforts to bypass the constraints of the CMOS-based memory led to the development of emerging non-volatile memory (NVM) devices. To mitigate the challenges posed by the von Neumann bottleneck, in-memory computing (IMC) paradigms have emerged, with the idea of doing the computation di- rectly in the memory and thus reducing the expensive transfer of data. This thesis focuses on using a novel, beyond-CMOS device for the IMC. The first chapter presents the physical effects that give rise to the spin-orbit torques (SOT) and introduces two-dimensional electron gas (2DEG) as a promising SOT system. Additionally, the tunability of SOT using ferroelectricity is presented, along with its application in various beyond-CMOS devices. The second chapter begins with an introduction to Moore’s law and von Neumann bottle- neck. NVMs are presented as possible solutions for these challenges, and the advantages of spintronic memory are highlighted. Finally, the Non-Volatile Spin-Orbit Torque Mag- netoresistive Random-Access Memory (NV SOT MRAM) is introduced as a promising candidate for beyond von Neumann computing. The third chapter explores the basics of digital in-memory computing along with various approaches to perform digital IMC with NVMs. Stateful Boolean logic with the NV SOT MRAM in the unipolar SOT regime is introduced. The IMC hardware developed to perform these computations on crossbar arrays based on NV SOT MRAM is presented. The chapter concludes with the presentation of the proof-of-concept demonstrations in Cadence. The fourth chapter introduces XNOR binary neural networks (BNN) and the state-of-the- art methods for implementing XNOR BNNs with NVM. The XNOR BNN based on NV SOT MRAM hardware is presented and implemented in Cadence. The chapter concludes with the presentation of the simulation results.

A partire dagli anni '70 i calcolatori si sono affidati alla scalabilità della tecnologia CMOS per ottenere un miglioramento esponenziale delle prestazioni. All'inizio del 21° secolo, questo approccio ha iniziato ad incontrare dei limiti fisici, che hanno portato a un rallentamento di questa crescita esponenziale. Un'altra limitazione delle prestazioni deriva dall'architettura di von Neumann, in cui la memoria e il processore sono fisicamente separati. Nell'informatica moderna, le fasi della computazione che richiedono più tempo ed energia spesso non sono costituite dal calcolo stesso, ma dal trasferimento di dati tra il processore e la memoria. Queso limite è noto come il collo di bottiglia di von Neumann (von Neumann bottleneck). Gli sforzi per aggirare i vincoli della memoria basata su CMOS hanno portato allo sviluppo di nuovi dispositivi di memoria non volatile (non-volatile memory, NVM). Per mitigare le sfide poste dal von Neumann bottleneck sono nati i paradigmi dell’ “in-memory computing (IMC)”, basati sull'idea di eseguire i calcoli direttamente nella memoria, riducendo così il costoso trasferimento dei dati. Questa tesi si concentra sull'utilizzo di un nuovo dispositivo per il superamento del CMOS tramite IMC. Il primo capitolo presenta gli effetti fisici che danno origine alla spin-orbit torque (SOT) e introduce il gas di elettroni bidimensionale (2DEG) come promettente sistema SOT. Inoltre, viene presentata la modulazione del SOT mediante la ferroelettricità e la sua applicazione in vari dispositivi oltre im CMOS. Il secondo capitolo inizia con un'introduzione alla legge di Moore e al von Neumann bottleneck. Le NVM sono presentate come possibili soluzioni per queste sfide e vengono evidenziati i vantaggi delle memorie spintroniche. Infine, la Non-Volatile Spin-Orbit Torque Magnetoresistive Random-Access Memory (NV SOT MRAM) viene presentata come un promettente candidato per i calcolatori oltre von Neumann. Il terzo capitolo esplora le basi dell'in-memory computing digitale e i vari approcci per eseguire l'IMC digitale con NV SOT MRAM. È introdotta la logica booleana statica della NV SOT MRAM nel regime unipolare della SOT ed è presentato l'hardware IMC sviluppato per per eseguire queste operazioni in una struttura a crossbar array del dispositivo. Il capitolo si conclude con la presentazione delle dimostrazioni proof-of-concept in Cadence. Il quarto capitolo introduce le reti neurali binarie (BNN) XNOR e lo stato dell'arte dei metodi di implementazione delle BNN XNOR con NVM. L’hardware di una BNN XNOR basata su NV SOT MRAM viene presentata e implementata in Cadence. Il capitolo si conclude con la presentazione dei risultati della simulazione.