Deep learning-based reduced order models for nonlinear parametrized PDEs: application to cardiac electrophysiology

Conventional reduced order models (ROMs) relying on the assumption of modal linear superimposition, such as proper orthogonal decomposition (POD), might reveal inefficient when dealing with nonlinear time-dependent parametrized PDEs, especially for problems featuring coherent structures propagating over time, such as physiological and pathological cardiac electrophysiology (EP). Indeed, these systems can hardly be reduced to accurate but lower dimensional problems by conventional ROMs such as, e.g., POD-Galerkin ROMs in the framework of reduced basis methods for parametrized PDEs. This is primarily due to the strong variability characterizing the solution manifold (with respect to the problem parameters) as well as to the nonlinear nature of the input-output maps that we intend to reconstruct numerically. To enhance ROM efficiency, we propose a new generation of non-intrusive, nonlinear ROMs, based on deep learning (DL) algorithms, such as convolutional, feedforward and autoencoder neural networks. In the proposed DL-ROM, both the nonlinear trial manifold and the nonlinear reduced dynamics are learnt in a non-intrusive way by relying on DL algorithms trained on a set of full order model (FOM) snapshots, obtained for different parameter values at different time instants. Numerical results show that the resulting DL-ROM technique allows to accurately capture complex fronts propagation processes, both in physiological and pathological scenarios in cardiac EP. Performing then a prior dimensionality reduction on FOM snapshots through randomized POD, and using a suitable multi-fidelity pretraining, enable, when dealing with large-scale FOMs, to speed up training times, and decrease the network complexity, substantially. Accuracy and efficiency of this strategy, which we refer to as POD DL-ROM, are assessed on different parametrized PDE problems (including nonlinear structural mechanics and fluid dynamics). The main focus of this Thesis is cardiac EP, that is the description of the electrical activity of the heart and its dysfunctions. Ranging from benchmark cases to realistic geometries both in physiological and pathological conditions such as atrial tachycardia and fibrillation, and considering snapshots arising from both finite element method and NURBS-based Isogeometric Analysis discretizations, DL-ROMs and POD DL-ROMs are shown to be able to solve, after the training stage, these problems for any new scenario in real-time, even in extremely challenging contexts such as re-entry and re-entry break-up problems, modeling those triggering phenomena related with cardiac arrhythmias.

Ottenere in modo rapido e accurato la soluzione di un problema differenziale dipendente da parametri è lo scopo delle tecniche di riduzione computazionale, o modelli di ordine ridotto (ROMs). Per fare ciò, le caratteristiche essenziali del comportamento della soluzione di un problema vengono descritte mediante la soluzione di un problema ridotto, le cui dimensioni sono notevolmente inferiori a quelle di un problema discretizzato con un classico metodo di tipo high-fidelity (o full order), come ad esempio quelli ottenuti mediante il metodo di Galerkin-elementi finiti o con l’Analisi Isogeometrica. Tali tecniche di discretizzazione conducono a un sistema di grandi dimensioni da risolvere per raggiungere una determinata accuratezza e risultano dunque impraticabili ogni qualvolta occorra calcolare tale soluzione ripetutamente, al variare di un insieme di parametri di ingresso. L’idea che costituisce il nucleo delle tecniche di riduzione computazionale, come i metodi a basi ridotte, è l’assunzione - spesso verificata nella realtà - che il comportamento di un sistema anche complesso possa essere ben descritto da una combinazione lineare di un numero esiguo di modi dominanti, come nel caso della proper orthogonal decomposition (POD). Tali modelli, tuttavia, possono rivelarsi inefficienti nella risoluzione di equazioni a derivate parziali (PDEs) non lineari tempo-dipendenti parametrizzate, in particolare nel caso di problemi caratterizzati da strutture coerenti che si propagano nel tempo, come accade per l’elettrofisiologia (EP) cardiaca sia in scenari fisiologici che patologici. Questi sistemi difficilmente possono essere ricondotti a problemi a bassa dimensionalità la cui soluzione risulti sufficientemente accurata mediante ROMs convenzionali come, ad esempio, i metodi a basi ridotte per PDEs parametrizzate (POD-Galerkin ROMs). Ciò è principalmente dovuto alla grande variabilità che caratterizza l’insieme delle soluzioni al variare dei parametri del problema e alla natura non lineare della mappa input-output che si intende ricostruire numericamente. Puntando all’efficienza dei modelli di ordine ridotto, in questa Tesi viene proposta una nuova generazione di ROMs non intrusivi e non lineari, basati su algoritmi di deep learning (DL), come le reti neurali feedforward, convoluzionali e autoencoder. In tali modelli di ordine ridotto, o DL-ROMs, sia lo spazio in cui cercare le candidate soluzioni, che la dinamica ridotta, vengono descritti mediante reti neurali, e costruiti in modo non intrusivo attraverso algoritmi di DL. Tali algoritmi prevedono l’allenamento delle reti su un insieme di snapshots, ovvero di soluzioni ottenute mediante il modello ad alta fedeltà per differenti valori dei parametri e diversi istanti di tempo. I risultati numerici mostrano che la tecnica DL-ROM permette di catturare accuratamente complessi processi di propagazione di fronti nell’ambito dell’EP fisiologica e patologica. Inoltre, effettuando una riduzione dimensionale preliminare sull’insieme di snapshots, tramite randomized POD, e utilizzando un opportuno addestramento preliminare delle reti (o pretraining) è possibile accelerare i tempi di addestramento delle reti, e dunque di costruzione dei modelli ridotti, oltre che ridurre notevolmente la complessità della rete. L’accuratezza e l’efficienza di questa strategia, che prende il nome di POD DL-ROM, sono state valutate su numerosi problemi a derivate parziali parametrizzati (comprese le equazioni dell’elastodinamica non lineare per la meccanica dei solidi e le equazioni di Navier-Stokes non stazionarie per la fluidodinamica). L’interesse primario di questa Tesi è rivolto all’EP cardiaca, il cui scopo è la descrizione dell’attività bioelettrica del cuore e delle sue disfunzioni. Considerando sia casi test prototipali che geometrie realistiche, condizioni fisiologiche e patologiche come la tachicardia e la fibrillazione atriale, oltre che tecniche ad alta fedeltà differenti (quali ad esempio il metodo degli elementi finiti o l’Analisi Isogeometrica), le tecniche introdotte in questa Tesi hanno dimostrato di poter risolvere tali problemi, una volta addestrate le reti neurali, per ciascun nuovo scenario in tempo reale, anche in contesti complessi quali la descrizione dei fenomeni di rientro e di rottura dei fronti, che modellizzano i principali meccanismi scatenanti delle aritmie cardiache.