Deep learning based approximate message passing for MIMO detection in 5G

The Fifth Generation (5G) mobile communication system is the latest technology in wireless communications. This technique brings several advantages, in particular by using multiple receiver antennas that serve multiple transmitters. This configuration used in 5G is called Massive Multiple Input Multiple Output (MIMO), and it increases link reliability and information throughput. However, MIMO systems face two challenges at link layer: channel estimation and MIMO detection. In this work, the focus is only on the MIMO detection problem. It consists in retrieving the original messages, sent by the transmitters, at the receiver side when the received message is a noisy signal. The optimal technique to solve the problem is called Maximum Likelihood (ML), but it does not scale and therefore with MIMO systems it cannot be used. Several sub-optimal techniques have been tested during years in order to solve MIMO detection problem, trying to balance the complexity-performance trade-off. In recent years, Approximate Message Passing (AMP) based techniques brought interesting results. Moreover, deep learning (DL) is spreading in several and different fields, and also in MIMO detection, it has been tested with promising results. A neural network called MMNet brought the most interesting results, but new techniques have been developed. These new techniques, despite they are promising, have not been compared with MMNet. In this thesis, two new techniques AMP and DL based, called Ortoghonal AMP Network Second (OAMP-Net2) and Learnable Vector AMP (LVAMP), have been tested and compared with the state of art. The aim of the thesis is to discover if one or both the techniques can provide better results than MMNet, in order to discover a valid alternative solution while dealing with MIMO detection problem. OAMP-Net2 and LVAMP have been developed and tested on different channel models (i.i.d. Gaussian and Kronecker) and on MIMO systems of different sizes (small and medium-large). OAMP-Net2 revealed to be a consistent technique that can be used in solving MIMO detection problem. It provides really interesting results on both i.i.d Gaussian and Kronecker channel models and with different sizes matrices. Moreover, OAMP-Net2 has good adaptability, in fact it provides good results on Kronecker channel models also when it is trained with i.i.d. Gaussian matrices. LVAMP instead has performances that are similar to MMSE, but with a lower complexity. It adapts well to complex channels such as OAMP-Net2.

Il sistema di comunicazione mobile di quinta generazione (5G) è l’ultima tecnologia nel campo delle comunicazioni wireless. Questa tecnologia porta diversi vantaggi, utilizzando molteplici antenne riceventi che servono più trasmettitori. Questa architettura utilizzata nelle reti 5G prende il nome di Massive Multiple Input Multiple Output (MIMO) e come benefici aumenta l’affidabilità del collegamento e il flusso di informazioni. Tuttavia, i sistemi MIMO affrontano due problemi a livello di collegamento: channel estimation e MIMO detection. In questo lavoro, l’attenzione è posta solamente sul problema di MIMO detection. Esso consiste nel recuperare i messaggi originali trasmessi dai transmettitori, da parte dei riceventi, che ricevono un segnale rumoroso. La tecnica ottimale per risolvere il problema si chiama Maximum Likelihood (ML), ma essa non è scalabile e quindi con i sistemi MIMO reali non può essere utilizzata. Parecchi tecniche subottimali sono state testate nel corso degli anni per risolvere il problema di MIMO detection, cercando di bilanciare il trade-off tra complessità e prestazioni. Negli ultimi anni, le tecniche basate su Approximate Message Passing (AMP) hanno portato a risultati interessanti per far fronte al problema. Inoltre, il deep learning (DL) si sta diffondendo in diversi campi, e anche nel rilevamento MIMO, è stato testato con risultati promettenti. Una rete neurale chiamato MMNet ha portato i risultati più interessanti, ma recentemente sono state sviluppate nuove tecniche. Queste nuove tecniche, nonostante siano promettenti, non sono state confrontate con MMNet. In questa tesi, due nuove tecniche basate su AMP e DL, chiamate OAMP-Net2 e LVAMP, sono state testate e confrontate con lo stato dell’arte. Lo scopo della tesi è quello di scoprire se una o entrambe le tecniche possono fornire risultati migliori di MMNet, al fine di scoprire una valida soluzione alternativa mentre si affronta il problema di MIMO detection. OAMPNet2 e LVAMP sono stati sviluppati e testati utilizzando matrici di canale che differiscono per modello di canale (i.i.d. Gaussiano e Kronecker) e dimensione (piccolo MIMO e medio-grande MIMO). OAMP-Net2 si è rivelata una tecnica coerente che può essere utilizzata nel risolvere il problema di rilevamento MIMO. Essa fornisce risultati davvero interessanti sia su modelli di canale i.i.d Gaussiano sia Kronecker e con matrici di diverse dimensioni. Inoltre, si adatta facilmente a diversi modelli, infatti fornisce buoni risultati sui modelli di canale Kronecker anche quando la rete è addestrata solo con matrici i.i.d. gaussiane. LVAMP invece ha prestazioni simili a MMSE, ma con una complessità inferiore. Essa si adatta bene al canale complesso Kronecker come OAMP-Net2.