Stabilization methods for transport dominated problems enhanced by artificial neural networks : towards LES turbulence modelling

Numerical modelling of advection-diffusion differential problems through Finite Element (FE) method can be affected by numerical instability when the problem is transport dominated. Therefore, stabilized methods are often used to eliminate or mitigate the numerical oscillations. Nevertheless, these stabilized methods' accuracy strongly depends on a parameter whose definition has attracted a significant amount of attention and research. Indeed, this stabilization parameter is analytically derived only for simple cases, leading to different alternatives with empirical considerations for more complex situations. The aim of this thesis is to propose a novel approach to find an optimal form of the stabilization parameter for every situation by employing artificial neural networks. The work focuses on the advection-diffusion equation solved using the Streamline Upwind Petrov-Galerkin method and the incompressible Navier-Stokes equations of fluid dynamics solved with the Variational Multiscale-Large Eddy Simulation method which also includes a modelling of the small-scale turbulence phenomena. For the former equation, a neural network has been trained on a dataset created by repeatedly solving an optimization problem, minimizing the distance among the numerical solution and the exact one for different configurations of the problem and the numerical scheme. The trained neural network has been later used to predict the optimal stabilization for any given configuration. For the latter equations, where the Taylor-Green vortex problem has been considered, a validation study has been performed by using as reference integral properties from a Direct Numerical Simulation in order to reach an accurate numerical solution that has been later used as our reference solution. The neural network has been thereafter trained to learn the correlation between the local fluid velocity and the optimal stabilization parameter for a given setting of the numerical scheme with lower resolution, considering as loss function the distance of the numerical solution with the reference solution. The strategy applied to the advection-diffusion problem leads to more accurate solutions than the classical approaches for the particular studied problem. Moreover, we show the possibility to use the trained neural network to predict the values of the optimal parameter even for a different advection-diffusion test case from the one used for training, encompassing the possibility to build a tool that can be applied to every problem configuration. The similar approach applied to Navier-Stokes has proven the validity of such strategy and revealed the high potential of making artificial neural networks autonomously learn the optimal parameters instead of using empirical relations. We envision that this new emerging approach, applied to fluid dynamics modelling, would bring to considerable advantages in terms of computational accuracy and efficiency.

La modellazione numerica di problemi differenziali di diffusione-trasporto con il metodo degli Elementi Finiti (FE) può portare a instabilità numerica quando il problema è dominato dal trasporto. Di conseguenza, vengono spesso usati metodi stabilizzati per eliminare o mitigare le oscillazioni numeriche che si creano. Tuttavia, l'accuratezza di questi metodi stabilizzati dipende fortemente da un parametro la cui definizione ha attirato una buona quantità di attenzione e di ricerca. Infatti, questo parametro di stabilizzazione è derivato analiticamente solo per casi semplici, portando a diverse alternative con considerazioni empiriche per situazioni più complicate. Lo scopo di questa tesi è quello di proporre un approccio originale per trovare una forma ottimale del parametro di stabilizzazione in ogni situazione attraverso l'uso di reti neurali artificiali. Il lavoro si focalizza sull'equazione di diffusione-trasporto risolta con il metodo Streamline Upwind Petrov-Galerkin e sulle equazioni di Navier-Stokes incomprimibili della fluidodinamica risolte con il metodo Variational Multiscale-Large Eddy Simulation che include una modellazione dei fenomeni turbolenti di piccola scala. Per la prima equazione, una rete neurale è stata allenata su un dataset creato risolvendo ripetutamente un problema di ottimizzazione, minimizzando la distanza tra la soluzione numerica e la soluzione esatta per diverse configurazioni del problema e dello schema numerico. La rete neurale allenata è stata poi usata per predirre il parametro di stabilizzazione ottimale per ogni data configurazione. Per il secondo problema, dove è stato preso in considerazione il problema del vortice di Taylor-Green, è stato fatto uno studio di validazione, usando come referenza una Direct Numerical Simulation, in modo da ottenere una soluzione numerica accurata da usare poi come la nostra soluzione di riferimento. Dopodiché, la rete neurale è stata allenata per imparare la correlazione tra velocità locale del fluido e il parametro di stabilizzazione ottimale per una data configurazione dello schema numerico con una più bassa risoluzione, considerando come loss function la distanza della soluzione numerica con la soluzione di riferimento. La strategia applicata al problema di diffusione-trasporto ha portato a soluzioni più accurate rispetto agli approcci classici per il particolare problema studiato. Inoltre, abbiamo mostrato la possibilità di utilizzare la rete neurale allenata per predirre il valore del parametro ottimale anche per un caso test di diffusione-trasporto diverso, abbracciando la possibilità di costruire uno strumento che possa essere applicato ad ogni configurazione del problema. Il simile approccio applicato a Navier-Stokes ha provato la validità di questa strategia e rivelato l'alto potenziale di far apprendere autonomamente a una rete neurale i parametri ottimali invece di usare relazioni empiriche. Immaginiamo che questo nuovo emergente approccio, applicato alla modellazione della fluidodinamica, possa portare a considerevoli vantaggi in termini di accuratezza ed efficienza computazionale.