Deep generative surrogates for stochastic PDEs: integrating POD and conditional normalizing flows

Analyzing parametrized physical systems under uncertainty fundamentally requires solving Stochastic Partial Differential Equations. However, in many engineering applications repeatedly querying high-fidelity numerical solvers to evaluate the behavior of the system for different input parameters is computationally prohibitive. While Reduced Order Models (ROMs) have successfully mitigated this burden in deterministic settings, extending them to handle unobserved latent variables, or intrinsically stochastic parameters, remains an open challenge. In such scenarios, the physical output is no longer a function of the system’s state, rather it becomes a (possibly involved) probability distribution, requiring the definition of suitable stochastic surrogate models. To address this gap, this work introduces POD-NF, a data-driven generative surrogate model designed for efficient and accurate Uncertainty Quantification (UQ) in high-dimensional problems arising from the discretization of parametrized physical systems. Building upon a rigorous mathematical formalization, the proposed methodology couples Reduced Order modeling with Deep Generative Modeling. Specifically, Proper Orthogonal Decomposition (POD) is employed to compress the spatial solution manifold onto a low-dimensional latent space. Subsequently, Conditional Normalizing Flows (CNFs) are trained to learn the exact conditional probability density of the corresponding reduced coefficients. This ensures that the model captures the full aleatoric uncertainty of the system rather than merely predicting a deterministic mean field. The robustness and data efficiency of the POD-NF framework are demonstrated by means of two numerical experiments: an advection-diffusion process in a randomized Stokes flow and a linear elasticity problem featuring a random interface between different materials. In both cases, the generative surrogate accurately reproduces complex, multi-modal predictive distributions, consistently achieving low Wasserstein-2 distances compared to baseline ground-truth simulations. Furthermore, since Normalizing Flows provide an analytically tractable likelihood, the proposed approach can be naturally integrated within the framework of inverse problem, of which we provide a first application.

L'analisi di sistemi fisici parametrizzati in condizioni di incertezza richiede, in molte casistiche, la risoluzione di Equazioni alle Derivate Parziali di tipo stocastico. Tuttavia, in molte applicazioni ingegneristiche, interrogare ripetutamente solutori numerici high-fidelity (ad alta fedeltà) per valutare il comportamento del sistema al variare dei parametri in input risulta proibitivo dal punto di vista computazionale. Sebbene i Reduced Order Models (ROMs – Modelli ad Ordine Ridotto) abbiano mitigato con successo questo onere in contesti deterministici, la loro estensione per gestire variabili latenti non osservate, o parametri intrinsecamente stocastici, rimane una sfida aperta. In tali scenari, l'output fisico non è più una semplice funzione dello stato del sistema, ma diventa una distribuzione di probabilità (potenzialmente complessa), richiedendo la definizione di opportuni modelli surrogati stocastici. Per colmare questa lacuna, questo lavoro introduce POD-NF, un modello surrogato generativo data-driven progettato per una Quantificazione dell’Incertezza (Uncertainty Quantification – UQ) efficiente e accurata in problemi ad alta dimensionalità derivanti dalla discretizzazione di sistemi fisici parametrizzati. Basandosi su una rigorosa formalizzazione matematica, la metodologia proposta accoppia il Reduced Order Modeling con il Deep Generative Modeling. Nello specifico, la Proper Orthogonal Decomposition (POD –comunemente nota come Analisi delle Componenti Principali – PCA) viene impiegata per comprimere la variabilità della soluzione spaziale su uno spazio latente a bassa dimensionalità. Successivamente, il Conditional Normalizing Flows (CNFs) viene addestrato per apprendere l'esatta densità di probabilità condizionata dei corrispondenti coefficienti ridotti. Questo garantisce che il modello catturi l'intera incertezza aleatoria del sistema, piuttosto che limitarsi a predire un campo medio deterministico. La robustezza e l'efficienza del modello POD-NF sono dimostrate per mezzo di due esperimenti numerici: un processo di avvezione-diffusione in un flusso di Stokes randomizzato e un problema di elasticità lineare caratterizzato da un'interfaccia casuale tra materiali diversi. In entrambi i casi, il surrogato generativo riproduce accuratamente distribuzioni predittive complesse e multimodali, ottenendo costantemente basse distanze di Wasserstein rispetto alle simulazioni reali. Inoltre, poiché i Normalizing Flows forniscono una likelihood trattabile analiticamente, l'approccio proposto può essere integrato in modo naturale all'interno del framework dei problemi inversi, di cui forniamo una prima applicazione.