Variational multiscale stabilization method for Burgers' Equation enhanced by Artificial Neural Networks

The Burgers’ equation is a nonlinear unsteady partial differential equation (PDE) that models the nonlinear interaction between advection and diffusion processes. When the problem is advection-dominated, the main challenge in numerically solving the equation lies in avoiding non physical oscillations. For this purpose several numerical methods have been derived to address this issue. In this work we solve Burgers’ equation using the Finite Element method (FEM) together with variational multiscale (VMS). This method splits the unknown solution in two: one associated to the large scale, which is directly computed, and one to the fine scales, which is coarse scale modeled as the product be tween the strong residual of the PDE and a stabilization parameter. The accuracy and stabilization properties of the results depend on the value of this parameter, even if it does not exist a universal definition that ensures an accurate and stable solution for nonlinear time dependent PDE. The aim of this work is to enhance the accuracy and stabilization properties of VMS methods for solving Burgers’ equation by exploiting Machine Learning (ML) and Artificial Neural Networks (ANNs). We generate a database of optimal stabilization parameters by solving an optimization problem in which we minimize the distance between the exact and the numerical solution. Then, we train an ANN and test its predictions on unseen Burgers’ problems, changing boundary conditions and forcing term of the equation. These tests allow us to generalize results and understand the pros and cons of this new ML-based strategy to learn the stabilization parameter of VMS for Burgers’ equation. For each test, solutions have been compared with exact (or "ground truth") one and with numerical solutions obtained by using benchmark stabilization parameters. This new strategy led to better solutions in most of the cases with respect to using theoretical stabilization parameters, showing good generalization capabilities and promising potentialities of using ML to enhance standard numerical solvers in Scientific Computing.

L’equazione di Burgers è un’equazione differenziale alle derivate parziali (PDE) non lineare e tempo dipendente che descrive l’interazione nonlineare tra il trasporto e la diffusione di una quantità. Quando il problema è trasporto dominante, la sfida principale nel risolvere numericamente l’equazione risiede nell’evitare oscillazioni non fisiche, motivo per cui sono stati sviluppati molti metodi numerici. In questo lavoro, risolviamo l’equazione di Burgers usando il metodo agli elementi finiti (FEM) insieme al variational multiscale (VMS). Questo approccio divide la soluzione in due: una associata alle grandi scale, direttamente calcolata, e una relativa a quelle piccole che viene modellata come il prodotto del residuo in forma forte della PDE per un parametro di stabilizzazione. L’accuratezza e le proprietà di stabilizzazione dei risultati dipendono dal valore di questo parametro, anche se non esiste una sua definizione che assicura una soluzione accurata e stabile per una PDE non lineare e tempo dipendente come l’equazione di Burgers. Lo scopo di questa tesi è quello di aumentare l’accuratezza e le proprietà di stabilizzazione del metodo VMS per le equazioni di Burgers sfruttando il Machine Learning (ML) e le reti neurali (ANNs). Abbiamo generato un database di parametri ottimali risolvendo un problema di ottimizzazione che minimizza la distanza tra la soluzione esatta e quella numerica. In seguito, abbiamo allenato una ANN e l’abbiamo testata su problemi di Burgers diversi da quello di training, cambiando condizioni al contorno e forzante. Questi test ci hanno permesso di generalizzare i risultati e capire i limiti di questa nuova strategia per l’apprendimento del parametro di stabilizzazione attraverso il ML. In ogni test le soluzioni numeriche sono state confrontate con quelle esatte (o di riferimento) e con altre soluzioni numeriche ottenute utilizzando parametri di stabilizzazione "teorici". Questa nuova strategia ha ottenuto spesso soluzioni migliori di questi ultimi, mostrando buone capacità di generalizzazione e promettenti potenzialità nell’utilizzo del ML per migliorare i metodi numerici del calcolo scientifico.