Hypernetwork-augmented latent dynamics network for PDE reconstruction

Modeling the time evolution of complex physical systems described by partial differential equations (PDEs) is one of the most important and challenging tasks in scientific com- puting. Traditional numerical methods can be computationally expensive, especially in many-query scenarios where the same problem needs to be solved multiple times with varying parameters or inputs. Data-driven approaches, such as Latent Dynamics Net- works (LDNets), have emerged as promising alternatives to traditional methods, offering the potential for reduced computational costs while maintaining accuracy. LDNets are an architecture that simultaneously learns a low-dimensional latent representation of the system’s dynamics and a reconstruction mapping to recover the full solution from this latent space using two neural networks: a dynamics network and a reconstruction net- work. In this thesis, we propose an extension to the LDNet architecture by incorporating a Hypernetwork to generate the weights of the reconstruction network based on the latent representation produced by the dynamics network. This Hypernetwork-augmented LD- Net model aims to improve the model’s ability to capture complex dynamics and enhance its reconstruction capabilities. We apply this Hypernetwork-augmented LDNet model to, among others, the Kuramoto–Sivashinsky equation, a fourth-order nonlinear PDE known for its chaotic behavior.

La modellazione dell’evoluzione temporale di sistemi fisici complessi descritti da equazioni differenziali parziali (EDP) è uno dei compiti più importanti e impegnativi nel calcolo scientifico. I metodi numerici tradizionali possono essere computazionalmente costosi, specialmente in scenari di molteplici interrogazioni in cui lo stesso problema deve es- sere risolto più volte con parametri o input variabili. Gli approcci basati sui dati, come le Latent Dynamics Networks (LDNets), sono emersi come alternative promettenti ai metodi tradizionali, offrendo il potenziale per ridurre i costi computazionali mantenendo l’accuratezza. Le LDNets sono un’architettura che apprende simultaneamente una rapp- resentazione latente a bassa dimensione della dinamica del sistema e una mappatura di ricostruzione per recuperare la soluzione completa da questo spazio latente utilizzando due reti neurali: una rete di dinamica e una rete di ricostruzione. In questa tesi, proponi- amo un’estensione dell’architettura LDNet incorporando una Hypernetwork per generare i pesi della rete di ricostruzione basata sulla rappresentazione latente prodotta dalla rete di dinamica. Questo modello LDNet aumentato con Hypernetwork mira a migliorare la capacità del modello di catturare dinamiche complesse e migliorare le sue capacità di ricostruzione. Applichiamo questo modello LDNet aumentato con Hypernetwork, tra gli altri, all’equazione di Kuramoto–Sivashinsky, una EDP non lineare del quarto ordine nota per il suo comportamento caotico.