Data-based control design for linear and recurrent neural network models with stability guarantees

In this doctoral dissertation a framework is defined for the application of data-based methods to control linear and recurrent neural network (RNN) systems. The main goal of this work is to define sound and reliable methods for data-driven control design. The proposed methods are of hybrid nature, mixing direct and indirect data-driven algorithms. On the one hand, direct data-driven techniques are used to enforce the desired performances. On the other hand, an indirect approach is resorted to in order to define closed-loop stability constraints applied to uncertainty sets or identified system models, the latter being linear or RNN-based ones. The proposed approach leads to computationally lightweight unifying optimization problems based on linear matrix inequalities (LMIs). As a starting point, a method for the application of virtual reference feedback tuning (VRFT) to linear time-invariant single-input single-output discrete-time systems affected by measurement noise is firstly defined, guaranteeing robust closed-loop stability properties by design. In order to guarantee robust stability, we resort to the definition of a polytopic uncertainty set constructed via a scenario-based set membership identification procedure. Extensions to cope with disturbance rejection requirements and input saturations, and to alternative ellipsoidal uncertainty sets are explored as well. Secondly, the attention is shifted towards RNN-based models, in view of the remarkable modelling capabilities of this class of models, where a method for an accurate selection of the RNN model class in presence of noisy input/output data is proposed. We first focus on the stability properties of some classes of recurrent neural networks, as they have been only marginally investigated so far in the literature. In this regard, an incremental input-to-state stability (δISS) sufficient condition is proposed for a general class of RNN models, proving to be less conservative than other conditions available in the literature. As an alternative, two regional (or local) stability conditions for the origin of RNN systems are also presented, jointly to procedures to maximize the dimension of the estimated subset of the basin of attraction. Since the previously derived conditions can be enforced in the form of LMIs to guarantee δISS or local stability also to RNN-based closed-loop systems, the possible inclusion of these conditions in unifying LMI-based optimization problems is investigated, where the performances can be enforced via cost functions based on VRFT or H2 control methods. The previous methodologies are successfully tested on linear and nonlinear simulation examples, among which also some realistic case studies, i.e., the pH neutralization process and a water-heating benchmark system.

In questa tesi di dottorato viene proposto un approccio per l'applicazione di metodi basati sui dati per il controllo di sistemi lineari o definiti da reti neurali ricorrenti (RNN). L'obiettivo principale di questo lavoro è definire metodi accurati e affidabili per la progettazione basata sui dati di sistemi di controllo. I metodi proposti sono di natura ibrida e mescolano algoritmi diretti e indiretti basati sui dati. Da un lato, le tecniche dirette di data-driven sono utilizzate per ottenere le prestazioni desiderate. Dall'altro, si ricorre a un approccio indiretto per definire vincoli di stabilità in anello chiuso applicati a insiemi di incertezza o a modelli di sistema identificati, siano questi lineari o basati su RNN. L'approccio proposto porta a problemi di ottimizzazione unificanti, computazionalmente leggeri, basati su disuguaglianze matriciali lineari (LMI). Come punto di partenza, viene innanzitutto definito un metodo per l'applicazione del virtual reference feedback tuning (VRFT) a sistemi lineari tempo-invarianti a tempo discreto a singolo ingresso e singola uscita affetti da rumore di misura, garantendo proprietà di stabilità robusta in anello chiuso. Per garantire una stabilità robusta, si ricorre alla definizione di un insieme di incertezza politopico costruito mediante una procedura di identificazione set membership basata sull'approccio a scenario. Vengono esplorate anche alcune estensioni o per far fronte ai requisiti di reiezione del disturbo e a eventuali saturazioni degli ingressi, o per considerare insiemi di incertezza ellissoidali alternativi. In secondo luogo, l'attenzione viene posta sui modelli basati su RNN, viste le notevoli capacità di modellazione di questa classe di modelli; a tal riguardo viene proposto un metodo per la selezione accurata della classe di modelli RNN in presenza di dati input/output rumorosi. Ci focalizziamo poi sulle proprietà di stabilità di alcune classi di reti neurali ricorrenti, in quanto tali proprietà sono state studiate solo marginalmente in letteratura. A questo proposito, viene proposta una condizione sufficiente di incremental input-to-state stability (δISS) per una classe generale di modelli RNN, che si dimostra meno conservativa di altre condizioni disponibili in letteratura. In alternativa, vengono presentate anche due condizioni di stabilità regionale (o locale) per l'origine dei sistemi RNN, unitamente a procedure per massimizzare la dimensione del sottoinsieme stimato del bacino di attrazione. Poiché le condizioni precedentemente derivate possono essere applicate sotto forma di LMI per garantire la stabilità δISS o locale anche ai sistemi in anello chiuso basati su RNN, viene quindi studiata la possibile inclusione di queste condizioni in problemi di ottimizzazione unificanti basati su LMI, dove le prestazioni possono essere imposte tramite funzioni di costo basate su VRFT o metodi di controllo H2. Le metodologie precedenti sono infine testate con successo su esempi di simulazione lineari e non lineari, tra cui anche alcuni casi di studio realistici, come il processo di neutralizzazione del pH e un tipico sistema per il riscaldamento dell'acqua.