Deep Learning-based surrogate models for parametrized PDEs : including geometrical features through graph neural networks

Mesh-based simulations play a key role when modeling complex physical systems that, in many disciplines across Science and Engineering, require the solution of time-dependent partial differential equations (PDEs). In this context, Full Order Models (FOMs), such as those relying on, e.g., the finite element method, can reach high levels of accuracy, however often yielding intensive simulations to run. For this reason, surrogate models are developed in order to replace computationally expensive solvers with more efficient ones, which can strike favorable trade-offs between accuracy and efficiency. This work explores the application of graph neural networks (GNNs) for the simulation of time-dependent PDEs depending on either physical or geometrical parameters. GNNs have recently shown great promise in solving complex problems in domains such as computer vision and natural language processing: this Thesis aims at investigating their potential in view of the efficient approximation of PDEs. The advantage of using GNNs in these problems relies on their ability to generalize to different geometries by introducing a suitable graph representation for the mesh. The work starts by introducing the theoretical background of time-dependent PDEs and classical numerical methods for their solution. It then introduces the concept of GNNs, their architectures, and a possible way to apply them to graph-based problems. The Thesis proposes a novel method for using GNNs to solve PDEs by (i) converting the PDE into a graph-based problem and (ii) training a GNN on the resulting graph. The effectiveness of the proposed approach is assessed through a series of experiments showing that GNNs are capable of outperforming traditional numerical methods in terms of computational efficiency and generalization to new scenarios.

Le simulazioni numeriche svolgono un ruolo chiave nella modellizzazione di sistemi fisici complessi che, in molte discipline della Scienza e dell’Ingegneria, richiedono la soluzione di equazioni alle derivate parziali (EDP) dipendenti dal tempo. In questo contesto, i Full Order Models (FOM), come quelli che si basano, ad esempio, sul metodo degli elementi finiti, possono raggiungere alti livelli di precisione, richiedono tuttavia spesso simulazioni computazionalmente costose da eseguire. Per questo motivo, vengono sviluppati modelli surrogati al fine di sostituire i solutori computazionalmente costosi con altri più efficienti, che possano garantire trade-offs favorevoli tra accuratezza ed efficienza. Questo lavoro esplora l’applicazione di Graph Neural Networks (GNN) per la simulazione di EDP parametrizzate dipendenti dal tempo definite su geometrie di forma variabile, che possono essere ricondotte a grafi. Le GNN hanno recentemente dimostrato grande potenziale nella risoluzione di problemi complessi in domini come la computer vision e il natural language processing: questa Tesi si propone di investigarne il potenziale per la simulazione numerica di EDP. Il vantaggio nell’utilizzo di GNN in questi problemi risiede nella loro capacità di generalizzare a diverse geometrie mediante l’introduzione di una rappresentazione grafica adatta al dominio del problema. Dopo aver passato brevemente in rassegna la classe di problemi su cui si concentra il lavoro, viene introdotto il concetto di GNN, la sua architettura e una possibile applicazione ai problemi basati su grafi. La Tesi propone un nuovo metodo per utilizzare le GNN per risolvere le EDP attraverso (i) la conversione della EDP in un problema basato su grafo e (ii) il training di una GNN sul grafo risultante. L’efficacia del metodo proposto viene valutata attraverso una serie di esperimenti che dimostrano come la strategia investigata in questa Tesi sia superiore ai metodi numerici tradizionali in termini di efficienza computazionale e generalizzazione a nuovi scenari.