A randomized approach for NARX model identification based on a multivariate Bernoulli distribution

In the field of system identification, one of the primary goal is to obtain a mathematical model of a system useful to develop formal tools of analysis and synthesis. The polynomial Nonlinear Autoregressive with eXogenous inputs (NARX) model family has been widely studied in the literature and several methods have been proposed. These methods are typically based on incremental model building techniques that progressively select from a candidate set the terms to include in the model. The main limitation of these methods concerns the difficulty to correctly assess the significance of each term which can lead to wrong model selections. To overcome this limit, the identification task has been recently restated in a probabilistic fashion and new randomized methods have been proposed. These methods are based on the sampling from probability distributions defined over the space of possible model structures. Particularly interesting is the RaMSS method which progressively samples from independent Bernoulli distributions associated to the terms. Then, the method updates the distributions according to the performances of all the sampled model structures. In this thesis a variant of the RaMSS is presented. It takes into account the dependences between model terms. The model terms are described by means of a multivariate Bernoulli distribution and the sampling of a term is thus conditioned by the sampling of the others. The new algorithm is tested on several analytic systems and the obtained results confirm the expectations: the proposed variant is capable of consistently identifying the correct model even for those systems for which the RaMSS occasionally fails to select the correct model structure. Furthermore, the identified models in the case of system excited with slowly varying input signals are more compact than those selected by the RaMSS. The new algorithm is validated over classical methods such as the FROE as well.

Nell'ambito dell'identificazione di sistemi, uno degli obiettivi primari è quello di ottenere un modello matematico del sistema atto a sviluppare strumenti di analisi e sintesi. La famiglia dei modelli non lineari NARX (Nonlinear Autoregressive models with eXogenous variables) basati su espansione polinomiale è stata ampiamente studiata nella letteratura di settore e molti metodi di identificazione sono stati proposti. Tali metodi sono tipicamente basati su una costruzione incrementale del modello per cui i termini sono progressivamente selezionati come candidati all'inclusione nel modello. Il limite principale di questi metodi è la difficoltà nel calcolare per ogni termine la giusta significatività, cosa che può pregiudicare la corretta selezione del modello. Per superare questo limite, negli ultimi anni il problema dell’identificazione è stato riformulato in termini probabilistici. Sono stati quindi definiti metodi randomizzati basati sul campionamento di distribuzioni di probabilità definite sullo spazio dei possibili modelli. Tra questi, di particolare interesse è il metodo RaMSS che è basato sul campionamento progressivo di distribuzioni Bernoulliane indipendenti, ognuna associata ad un termine. Tali distribuzioni sono poi aggiornate sulla base delle performance dell'intera popolazione di modelli estratti. In questa tesi è formulata una variante del metodo RaMSS, che tiene conto di eventuali dipendenze tra i termini del modello. I termini sono descritti da una distribuzione Bernoulliana multivariata e il campionamento di un termine è quindi condizionato all’esito dell'estrazione degli altri. I risultati ottenuti su alcuni sistemi analitici di diversa natura confermano le aspettative: la nuova variante del RaMSS riesce maggiormente nell'identificazione del modello corretto anche per quei sistemi per i quali il miglior modello selezionato dall'algoritmo base non corrisponde a quello corretto. Inoltre, rispetto all'algoritmo base, la variante proposta identifica modelli più compatti nel caso di sistemi con ingressi lenti. Il nuovo algoritmo è stato validato anche rispetto a metodi classici, quali il FROE.