State estimation and recurrent neural networks for model predictive control

The aim of this thesis is to investigate a possible use of different models of neural networks for the identification of dynamic systems. These networks will be exploited in a context of predictive control to control two examples of nonlinear systems. The first part of the thesis presents the mathematical models of Echo State Networks (ESN) and Long Short-Term Memory networks (LSTM), two types of neural networks used in view of their ability to solve some typical problems encountered with the use of these models. Their identification procedures and state observers based on these models will bepresented. In the second part of the thesis an application of these networks will be shown for the control of a stable nonlinear system using MPC, providing a formulation of the control problem that guarantees the asymptotic convergence of the controlled variables. Subsequently, the problems concerning the identification of unstable systems throughthe use of ESN and LSTM will be discussed. For unstable systems, the initialization of the state is crucial for the identification of a good model, but typically these networks have a high number of state variables, which do not correspond to the physical variables of the real system. For this reason, a new type of neural network will be introduced for the identification and control of a double inverted pendulum. The structure of this type of network exploits the knowledge of the system in question, allowing a correct initialization of the state and a better interpretability of the results. Finally, an adaptive control algorithm obtained by using an Unscented Kalman Filterwill be adopted to control the two systems under examination and tested in the presence of variations in the physical parameters of the processes.

L’obbiettivo di questa tesi è di indagare su un possibile utilizzo di diversi modelli di reti neurali per l’identificazione di sistemi dinamici. Queste reti verranno sfruttate in un contesto di controllo predittivo per controllare due esempi di sistemi nonlineari. Nella prima parte della tesi saranno presentati i modelli matematici di Echo State Networks (ESN) e Long Short-Term Memory networks (LSTM), due tipi di reti neurali utilizzati per la loro capacità di risolvere alcuni problemi tipici riscontrati con l’utilizzo delle reti neurali. Verranno presentate le loro procedure di identificazione e sviluppati degli osservatori basati su questi modelli. Nella seconda parte della tesi sarà mostrata un’applicazione di queste reti per il controllo MPC di un sistema nonlineare stabile, fornendo una formulazione del problema di controllo che garantisce l’asintotica convergenza delle variabili controllate. Successivamente verranno discusse le problematiche riguardanti l’identificazione di sistemi instabili mediante l’utilizzo di ESN e LSTM, in particolare l’inizializzazione dello stato risulta cruciale per l’identificazione di un buon modello, ma tipicamente queste reti hanno un elevato numero di variabili di stato elevato che non corrispondono alle variabili fisiche del sistema reale e per questo la loro corretta inizializzazione risulta faticosa. Per questo motivo, un nuovo tipo di rete neurale sarà introdotto per l’identificazione e il controllo di un doppio pendolo rovesciato. La struttura di questo tipo di rete sfrutta la conoscenza del sistema in esame, permettendo una corretta inizializzazione dello stato e una maggiore interpretabilità dei risultati. Infine, sarà utilizzato un algoritmo adattativo ottenuto mediante l’utilizzo di un Unscented Kalman Filter per il controllo dei due sistemi in esame e le sue prestazioni saranno validate in presenza di variazioni dei parametri fisici dei processi.