Embedded Machine Learning algorithms and in-memory computing architectures for position sensitivity in gamma cameras

Gamma radiation detectors for both spectroscopy and imaging find application in a variety of fields, including nuclear physics experiments, gamma-ray astronomy, molecular imaging, homeland security, and nuclear medicine. This research work places itself in the latter framework, and presents the experimental characterization of machine learning (ML) as a statistical tool for position sensitivity in thick monolithic scintillator crystals. Multiple ML-based techniques were implemented and evaluated for the training and inference of the interaction coordinates of incident gamma photons in an Anger camera for multimodal SPECT imaging, with the goal of demonstrating state-of-the-art position sensitivity. First, the use of Principal Component Analysis (PCA), a dimensionality reduction technique, is assessed to reduce the computational complexity of gold standard reconstruction methods such as Maximum Likelihood Estimation (MLE). Second, the estimation of gamma-photon scintillation coordinates is addressed by means of Decision Trees (DTs) classifiers and embedded Artificial Neural Networks (ANNs), trained on both experimental and simulated irradiation data. Moreover, in order to overcome the limitations of a cumbersome data acquisition procedure involving a fine-pitch translating collimator, an innovative Data Augmentation algorithm is leveraged for the generation of artificial data. However, all of these aforementioned algorithms are inherently data-intensive and are significantly impacted by the new challenges faced by computing systems relatively to the increasing burden of communication between the memory and the processing unit. In particular, modern ML algorithms require billions of multiply-accumulate (MAC) operations per inference, which becomes onerous on conventional resource-constrained computing platforms based on the von Neumann model. A promising approach to address this problem lies in deploying domain-specific hardware accelerators tailored toward the workloads of a specific class of applications, leveraging the In-Memory Computing (IMC) paradigm to suppress the memory bottleneck and enable higher parallelism of data processing thanks to analog memory array architectures. Considering that ANNs provide encouraging results in terms of position sensitivity in Anger cameras, and considering the inherent advantages of IMC, such as higher throughput and energy efficiency compared to the conventional digital approach, this thesis investigates the potential of mixed analog/digital computing approaches in the context of ANN processor architectures. Relying on hardware-algorithm co-design, the work culminates in the analysis and feasibility study of FETT ASIC, a 0.35-um CMOS analog hardware accelerator destined for the implementation of on-chip Neural Network inference for ADC-less position sensitivity in Anger Cameras. The reconstruction of interaction coordinates of gamma photons in the detector is performed in the charge domain with non-volatile memories to implement the network's weights, exploiting a programmable switched-capacitor matrix to perform multiplication via multi-phase charge redistribution and addition via active charge sharing among multipliers. FETT offers fully analog 5-bit vector-matrix multiplication, allowing for a high-throughput, low-energy, and low-noise position sensitivity while bypassing the requirements of analog-to-digital conversion, thanks to an innovative compute fabric that exploits analog devices to perform MAC computations.

I rivelatori di radiazioni gamma per la spettroscopia e l'imaging trovano applicazione in svariati ambiti applicativi, tra cui esperimenti di fisica nucleare, astrofisica, imaging molecolare, sicurezza nazionale e medicina nucleare. Questo lavoro di ricerca si colloca nel campo dell'imaging nucleare, presentando la caratterizzazione sperimentale di algoritmi di Machine Learning (ML) come strumento statistico per la ricostruzione della posizione di interazione di raggi gamma in cristalli scintillatori monolitici. Diverse tecniche di Machine Learning sono state sviluppate e valutate per il training e l'inferenza delle coordinate di interazione di fotoni gamma incidenti in un detector per SPECT, con l'obiettivo di raggiungere una sensibilità di ricostruzione allo stato dell'arte. In primo luogo viene valutato l'utilizzo dell'analisi delle componenti principali (PCA), una tecnica di riduzione della dimensionalità, per abbattere la complessità computazionale dei metodi di ricostruzione già largamente impiegati in letteratura, come la stima di massima verosimiglianza (MLE). In secondo luogo, la stima delle coordinate di scintillazione dei fotoni gamma è affrontata per mezzo di classificatori basati su Decision Trees (DTs) e reti neurali artificiali embedded, addestrati su dati di irradiazione sia sperimentali che simulati. Inoltre, al fine di superare i limiti di una procedura di acquisizione dei dati macchinosa che coinvolge un collimatore traslante a passo fine, un innovativo algoritmo di Data Augmentation è impiegato per l'interpolazione di dati fittizi. Tuttavia, tutti questi algoritmi di cui sopra sono per natura onerosi dal punto di vista computazionale, e sono ampiamente influenzati dalle nuove sfide affrontate dai sistemi di calcolo relativamente al crescente carico dato dal flusso di dati tra memoria e processore. I moderni algoritmi di Machine Learning, in particolare, richiedono miliardi di operazioni di MAC per svolgere un'inferenza, il che diventa gravoso per le piattaforme di calcolo convenzionali basate sul modello di von Neumann. Un approccio promettente per affrontare questo problema consiste nel ricorrere ad acceleratori hardware dedicati, che sono progettati su misura per il carico di lavoro di una determinata classe di applicazioni, sfruttando il paradigma dell'In-Memory Computing (IMC) per ovviare al collo di bottiglia dato dal trasferimento di dati tra memoria e processore e consentire un maggiore parallelismo nell'elaborazione dei dati grazie ad architetture analogiche basate su interconnessioni di memorie non volatili. Considerando che le reti neurali forniscono risultati incoraggianti per quanto riguarda la ricostruzione della posizione di interazione di fotoni gamma in Anger camera, e considerando i vantaggi intrinseci dell'IMC, quali maggiore throughput più elevato e maggiore efficienza energetica rispetto all'approccio digitale convenzionale, questa tesi indaga le potenzialità di sviluppare approcci di calcolo misti con architetture analogico/digitali per processori specifici per reti neurali. Facendo affidamento su una progettazione sincrona di hardware e algoritmi, questo lavoro di tesi culmina nell'analisi e studio di fattibilità di FETT, un ASIC in tecnologia CMOS 0.35-um destinato all'implementazione hardware di reti neurali su chip per la ricostruzione della posizione di interazione di fotoni gamma in cristallo scintillatore, svolgendo calcoli in analogico tramite tensioni e correnti e quindi ovviando alla necessità di introdurre conversioni analogico-digitali del dato. La ricostruzione delle coordinate di interazione dei fotoni gamma nel rivelatore viene eseguita nel dominio della carica con memorie non volatili che vanno a implementare i pesi della rete, sfruttando una matrice programmabile di switched capacitor per svolgere moltiplicazioni tramite redistribuzione multi-fase della carica, e addizioni mediante la condivisione della carica tra i diversi elementi della matrice. FETT offre l'implementazione analogica delle moltiplicazioni vettore-matrice necessarie per la soluzione dei calcoli relativi a una rete neurale con parametri a 5 bit, consentendo una ricostruzione della posizione rapida, più efficiente del corrispettivo digitale, a basso consumo di potenza e basso rumore, grazie ad un'innovativa architettura di calcolo che sfrutta i dispositivi di memoria analogici.