Design of CMOS silicon neurons for noise assisted computation in spiking neural networks

Hardware implementations of spiking neurons provide us with various advantages in different applications such as real-time performing systems, large-scale neural networks and bidirectional brain–machine interfaces. Recently, several solutions for fast simulation of Networks of spiking neurons have been proposed in which in which analog and digital brain-inspired electronic circuits have been employed. While these hardware solutions are useful for investigating the computational properties of spiking neural networks, the challenge of designing compact low-power neural network blocks which can exploit all neuro-computational properties of biological spiking neurons is still open. Here we review neuromorphic circuits for emulating neural and synaptic dynamics in real time and we design a CMOS neuron, a silicon synapse and a compact noise generator. Such components are combined to build up a network of spiking neuron in order to consider the effects of noise on it. Inspired by in vivo experiments, as key results, we demonstrate for the first time by using silicon neurons how correlation of spiking activity among isolated subnetworks ignited by distinct background noise is progressively increased by adding interneuron synapses between the subnetworks. Experimental data from neuroscience suggest that a substantial amount of knowledge is stored in the brain in the form of probability distributions over network states and trajectories of network states [79]. Preliminary results on our noise-assisted silicon neuron are in agreement with such hypothesis; we show that a small network that is made by stochastic models of spiking neural networks have a stationary distribution of network states and trajectories of network states to which they converge exponentially fast.

Le implementazioni hardware di neuroni in grado di emettere impulse  possono essere estremamente utili per una grande varietà di applicazioni, che vanno dalla modellazione ad alta velocità dei sistemi neurali su larga scala per caratterizzare sistemi in tempo reale alle interfacce cervello-macchina bidirezionali. Diversi sistemi elettronici  analogici e digitali ispirati all’attività cerebrale sono stati recentemente proposti come soluzioni dedicate per simulazioni veloci degli impulsi delle reti neurali. Sebbene queste architetture sono utili per esplorare le proprietà computazionali dei modelli su larga scala del sistema nervoso, la sfida nel costruire  artefatti fisici compatti a basso consumo che possono comportarsi in modo intelligente nel mondo reale è ancora aperta. In questo lavoro di tesi si sono analizzati i circuiti neuromorfi per emulare le dinamiche neurali e sinaptiche in tempo reale e si è progettato un neurone in tecnologia CMOS basato sul modello di Hodgkin-Huxley , un circuito in grado di emulare una sinapsi e un generatore di rumore compatto. Questi elementi sono stati combinati per realizzare reti neurali in grado di trasmettere impulsi. Si è poi analizzato l'effetto e l'importanza del rumore nella comunicazione tra neuroni. Tra i risultati ottenuti si menziona la dimostrazione di come l'attività neurale tra sottoreti isolate stimolata dal rumore venga progressivamente aumentata aggiungendo sinapsi tra i neuroni di sottoreti diverse. Dati sperimentali delle neuroscienze suggeriscono che una notevole quantità di conoscenze sono memorizzate nel cervello sotto forma di distribuzioni di probabilità sugli stati di rete e traiettorie di stati di rete [75]. L'analisi preliminare delle reti neurali basate sui neuroni CMOS realizzate in questa tesi appoggiano questa ipotesi. In particolare, i primi risultati mostrano come un piccola rete neurale stimolata dal rumore tende in modo esponenziale ad una distribuzione stazionaria di stati e traiettorie di stati.