Imposing hard constraints to physics-informed neural network surrogates of catalytic reactors

Multiscale modeling have become a powerful means to to describe real reactive systems under industrially relevant reaction conditions, as they combine a detailed atomistic description of heterogeneous chemistry with an accurate representation of transport phenomena across multiple scales. Despite their accuracy, the use of these models in industrial applications remains limited by their extremely high computational cost, which hinders their adoption in process design, control, and optimization tasks. To bridge this gap, Hybrid Modeling has emerged as a promising approach to preserve the predictive accuracy of multiscale first-principles simulations while drastically reducing computational burden by integrating machine learning (ML) techniques. Physics-Informed Neural Networks (PINNs) represent a key example of this paradigm, acting as data-efficient Surrogate Models (SMs) that embed governing laws into the training process through a physics-based regularization term. This procedure is known as soft-constrained learning which lead to more physically consistent solutions without strictly preserving laws. Recently, hard-constrained learning has been proposed to strictly enforce physical constraints in attempt of overcoming some of the current limitations of PINNs. In this work, SMs of catalytic reactors have been developed by combining PINNs, enabling to embed physics through soft constraints, with hard-constraints to improve the robustness and accuracy of the resulting SMs. The framework has been showcased by considering a 1D pseudo-homogeneous plug-flow reactor (PFR) for CO2 methanation. Several models were trained under data scarce regime conditions and compared to identify and quantify the contribution and effect of both soft and hard constraints on the performances of the surrogates. A Fully Connected Network (FCN) was first compared to the Naive-PINN to quantify the benefits of physics-informed learning. The limitations of the Naive-PINN were then addressed by progressively introducing additional hard constraints for mass, atom and energy conservation. Softmax and Powermax functions were introduced to ensure mass conservation. Projection-based models designed to linearly project the solution onto the feasible solution space has been used for enforcing atomic conservation based on orthogonal projection, weighted projection and completion. Finally, to enable the enforcement of energy conservation, an additional auxiliary output representing the specific external heat exchange was introduced. In this formulation, the nonlinear energy constraint is enforced by projecting the specific external heat exchange together with the mass fractions, while, according to the freezing approach, the temperature is kept fixed to the network output, as it is directly involved in the nonlinear term. The simultaneous inclusion of atomic and energy conservation along with the physical loss demonstrated to provide the most accurate results. Overall, the study demonstrates that embedding physics through both soft and hard constraints significantly enhances the predictive accuracy, physical consistency, and generalization ability of ML-based reactor models.

La modellazione multiscala è diventata un mezzo potente per descrivere sistemi reattivi reali in condizioni operative di rilevanza industriale, poiché combina una descrizione atomistica dettagliata della chimica eterogenea con una rappresentazione accurata dei fenomeni di trasporto attraverso molteplici scale. Nonostante la loro accuratezza, l’impiego di questi modelli in applicazioni industriali rimane limitato dal costo computazionale estremamente elevato che ne ostacola l’applicazione in contesti di progettazione, controllo e ottimizzazione dei processi. Per colmare questo divario, l’Hybrid Modeling è emerso come un approccio promettente in grado di preservare l’accuratezza predittiva delle simulazioni multiscala basate su principi primi, riducendo drasticamente l’onere computazionale grazie all’integrazione di tecniche di machine learning (ML). Le Physics-Informed Neural Networks (PINNs) rappresentano un esempio chiave di questo paradigma, agendo come modelli surrogati (SM) a ridotta necessità di dati che incorporano le leggi fisiche nel processo di training tramite un termine di regolarizzazione basato sulla fisica. Questa procedura è nota come soft-constrained learning e consente di ottenere soluzioni fisicamente consistenti, pur senza imporre rigorosamente le leggi fisiche. Recentemente è stato proposto l'hard-constrained learning, volto a imporre i vincoli fisici in modo esatto nel tentativo di superare alcune delle attuali limitazioni delle PINNs. In questo lavoro sono stati sviluppati modelli surrogati di reattori catalitici combinando PINNs, che consentono di incorporare la fisica tramite sia soft ed hard constraints, così da migliorare la robustezza e l’accuratezza dei modelli. Il framework è stato applicato a un reattore plug-flow (PFR) pseudo-omogeneo 1D per la metanazione della CO2. Diversi modelli sono stati addestrati in condizioni di scarsità di dati e confrontati per identificare e quantificare il contributo e l’effetto sia dei vincoli soft sia dei vincoli hard sulle prestazioni dei surrogati. Inizialmente una Fully Connected Network (FCN) è stata confrontata con la Naive-PINN per quantificare i benefici dell’apprendimento informato dalla fisica. Le limitazioni della Naive-PINN sono state poi affrontate introducendo progressivamente vincoli hard aggiuntivi per la conservazione della massa, degli atomi e dell’energia. Le funzioni Softmax e Powermax sono state introdotte per garantire la conservazione della massa. Per imporre la conservazione atomica sono stati impiegati modelli basati su proiezione, in grado di proiettare linearmente la predizione nello spazio delle soluzioni ammissibili tramite proiezione ortogonale, proiezione pesata e completamento del vincolo. Infine, per consentire l’imposizione del bilancio energetico, è stata introdotta una variabile ausiliaria aggiuntiva che rappresenta lo scambio termico specifico con l’esterno. In questa formulazione, il vincolo energetico non lineare è imposto proiettando lo scambio termico specifico insieme alle frazioni massiche, mentre, in accordo con il freezing approach, la temperatura è mantenuta fissa al valore predetto dalla rete, poiché compare direttamente nel termine non lineare. L’inclusione simultanea della conservazione atomica ed energetica, insieme al termine di regolarizzazione fisico, ha dimostrato di fornire i risultati più accurati. Nel complesso, lo studio mostra che incorporare la fisica tramite vincoli sia soft sia hard migliora significativamente l’accuratezza predittiva, la consistenza fisica e la capacità di generalizzazione dei modelli di reattore basati su ML.