A Bayesian active learning framework based on deep Gaussian processes for the efficient exploration of expensive computational design spaces

Exploring complex design parameter spaces is often bottlenecked by computationally expensive simulations. To minimize the simulation burden while optimizing performance, quantifying uncertainty, and understanding system behavior, we propose a sequential design of experiments framework rooted in Bayesian Active Learning. The core of this framework integrates a multi-output Deep Gaussian Process (DGP) surrogate and a numerical-fidelity metric, structured as two heads sharing a common latent representation. Specialized acquisition functions leverage this joint architecture to drastically reduce computational overhead while delivering robust predictions and principled uncertainty estimates. We demonstrate the versatility of this active-learning loop across two distinct problem classes: a constraint- and cost-aware exploration task in computational fluid dynamics, and a hyper-parameter optimization task.

L’esplorazione di spazi di progettazione complessi è spesso ostacolata dall’onere computazionale delle simulazioni. In questo lavoro si propone un approccio sequenziale alla pianificazione degli esperimenti, fondato sul paradigma dell’apprendimento attivo Bayesiano, che mira a contenere il numero di simulazioni necessarie senza rinunciare all’accuratezza delle previsioni né a una caratterizzazione rigorosa dell’incertezza. L’elemento centrale del metodo è un modello surrogato multi-output basato su Deep Gaussian Process, affiancato da una metrica di fedeltà numerica: le due quantità vengono apprese congiuntamente a partire da una rappresentazione latente condivisa, così che l’informazione acquisita sull’una contribuisca a regolarizzare la stima dell’altra. La selezione dei punti da simulare è governata da opportune funzioni di acquisizione, che bilanciano il guadagno informativo atteso con il costo computazionale e con il rispetto dei vincoli di fedeltà. L’efficacia e la versatilità del framework sono illustrate attraverso due casi di studio di natura differente: l’esplorazione vincolata e consapevole dei costi di un problema di fluidodinamica computazionale e l’ottimizzazione degli iperparametri di un modello di apprendimento automatico.