Nowadays, functions such as the recognition of speech, image, and faces are becoming essential features in various applications, from smartphones to driver-less cars. However, the development of these cognitive systems offers critical challenges, in terms of accuracy, speed, energy efficiency, and cost. In this context, achieving brain-inspired circuits and algorithms seems a very promising pathway, given the unrivaled energy efficiency and computing performance of the human brain. Toward this goal, nanoscale devices capable of mimicking the biology of learning in silico, such as resistive switching memory (RRAM), are highly valuable. In this Ph.D. dissertation, the implementation of spike-timing dependent plasticity (STDP) and spike-rate dependent plasticity (SRDP) biological learning rules by RRAM-based synaptic structures is first described. Afterward, moving from device to network level, simulation and experimental results supporting the capability of two-layer feedforward spiking neural networks with RRAM-based synapses to achieve unsupervised learning of visual patterns are presented. Finally, the ability of Hopfield-type recurrent spiking neural networks with RRAM-based synapses to capture other fundamental brain-inspired primitives such as associative memory, pattern completion and error correction is also investigated by simulations.

Oggigiorno, funzioni come il riconoscimento vocale, il riconoscimento di immagini e il riconoscimento facciale stanno diventando caratteristiche essenziali in varie applicazioni, dagli smartphone alle auto a guida autonoma. Tuttavia, lo sviluppo di questi sistemi cognitivi offre sfide molto dure in termini di accuratezza, velocità, efficienza energetica e costo. In questo contesto, data l'ineguagliabile efficienza energetica e computazionale del cervello umano, realizzare circuiti e algoritmi ispirati al cervello appare una soluzione molto promettente. Per raggiungere questo obiettivo, i dispositivi nanometrici in grado di emulare in hardware i processi biologici alla base dell'apprendimento, come ad esempio la memoria a switching resistivo (RRAM), sono estremamente importanti. Questa tesi di dottorato tratta in primo luogo l'implementazione di due schemi biologici di apprendimento quali la plasticità sinaptica basata sulla tempistica degli spike (STDP) e la plasticità sinaptica basata sulla frequenza degli spike (SRDP) mediante strutture sinaptiche con dispositivi RRAM. In seguito, passando dal livello di dispositivo a quello di rete, la capacità di apprendimento non supervisionato di pattern visivi delle reti neurali con flusso in avanti di tipo spiking basate su due strati di neuroni e sinapsi RRAM è dimostrata sia in simulazione che negli esperimenti. Infine, attraverso la simulazione di reti neurali ricorsive di Hopfield di tipo spiking basate su sinapsi RRAM, è inoltre discussa la possibilità di replicare altre fondamentali capacità del cervello come la memoria associativa, la ricostruzione di immagini e la correzione di errori.

Modeling and simulation of spiking neural networks with resistive switching synapses

MILO, VALERIO

Abstract

Nowadays, functions such as the recognition of speech, image, and faces are becoming essential features in various applications, from smartphones to driver-less cars. However, the development of these cognitive systems offers critical challenges, in terms of accuracy, speed, energy efficiency, and cost. In this context, achieving brain-inspired circuits and algorithms seems a very promising pathway, given the unrivaled energy efficiency and computing performance of the human brain. Toward this goal, nanoscale devices capable of mimicking the biology of learning in silico, such as resistive switching memory (RRAM), are highly valuable. In this Ph.D. dissertation, the implementation of spike-timing dependent plasticity (STDP) and spike-rate dependent plasticity (SRDP) biological learning rules by RRAM-based synaptic structures is first described. Afterward, moving from device to network level, simulation and experimental results supporting the capability of two-layer feedforward spiking neural networks with RRAM-based synapses to achieve unsupervised learning of visual patterns are presented. Finally, the ability of Hopfield-type recurrent spiking neural networks with RRAM-based synapses to capture other fundamental brain-inspired primitives such as associative memory, pattern completion and error correction is also investigated by simulations.
PERNICI, BARBARA
FIORINI, CARLO ETTORE
8-feb-2019
Oggigiorno, funzioni come il riconoscimento vocale, il riconoscimento di immagini e il riconoscimento facciale stanno diventando caratteristiche essenziali in varie applicazioni, dagli smartphone alle auto a guida autonoma. Tuttavia, lo sviluppo di questi sistemi cognitivi offre sfide molto dure in termini di accuratezza, velocità, efficienza energetica e costo. In questo contesto, data l'ineguagliabile efficienza energetica e computazionale del cervello umano, realizzare circuiti e algoritmi ispirati al cervello appare una soluzione molto promettente. Per raggiungere questo obiettivo, i dispositivi nanometrici in grado di emulare in hardware i processi biologici alla base dell'apprendimento, come ad esempio la memoria a switching resistivo (RRAM), sono estremamente importanti. Questa tesi di dottorato tratta in primo luogo l'implementazione di due schemi biologici di apprendimento quali la plasticità sinaptica basata sulla tempistica degli spike (STDP) e la plasticità sinaptica basata sulla frequenza degli spike (SRDP) mediante strutture sinaptiche con dispositivi RRAM. In seguito, passando dal livello di dispositivo a quello di rete, la capacità di apprendimento non supervisionato di pattern visivi delle reti neurali con flusso in avanti di tipo spiking basate su due strati di neuroni e sinapsi RRAM è dimostrata sia in simulazione che negli esperimenti. Infine, attraverso la simulazione di reti neurali ricorsive di Hopfield di tipo spiking basate su sinapsi RRAM, è inoltre discussa la possibilità di replicare altre fondamentali capacità del cervello come la memoria associativa, la ricostruzione di immagini e la correzione di errori.
Tesi di dottorato
File allegati
File Dimensione Formato  
2019_02_PhD_Milo.pdf

accessibile in internet per tutti

Descrizione: Testo della tesi
Dimensione 15.86 MB
Formato Adobe PDF
15.86 MB Adobe PDF Visualizza/Apri

I documenti in POLITesi sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/10589/144278