Correcting Neural Operator spectral Bias via diffusion Posterior Sampling with sparse observations

Neural operator surrogates (NO) can approximate partial differential equations (PDE) solutions orders of magnitude faster than numerical solvers, but they suffer from spectral bias: high-frequency content is systematically attenuated, limiting their reliability for applications that depend on fine scale structure. In many settings, sparse sensor measurements of the true field are also available, offering pointwise accuracy without spectral distortion but covering only a small fraction of the domain. We address the spectral bias of neural operators by treating their predictions as auxiliary observations in a diffusion posterior sampling framework. Our method, FreqNO-DPS, combines an unconditional score-based diffusion prior, trained on high-fidelity simulations, with diffusion posterior sampling (DPS) conditioned on sparse observations and guided by a frozen neural operator. Naive integration of the surrogate reintroduces its spectral bias into the prediction; we resolve this by deriving a closed-form, spectrally shaped guidance score that weights the surrogate contribution according to its frequency-dependent accuracy and requires no backpropagation through the denoiser. A distribution-free analysis bounds the approximation error across the frequency--diffusion-time plane and shows that the frequency dependence of the guidance is preserved regardless of distributional assumptions. On three-dimensional elastic wavefield prediction at 5% and 2% sensor coverage, the method achieves near-zero spectral bias across all frequency bands, where both the deterministic surrogate and sensor-only posterior sampling exhibit systematic high-frequency attenuation. Isotropic surrogate guidance, the natural baseline, improves pointwise accuracy but carries the spectral bias into the posterior nearly intact, confirming that frequency-dependent calibration is essential rather than merely beneficial. The framework requires only paired surrogate/reference data for calibration and exploits no problem-specific structure beyond the residual's approximate spectral diagonality, a prerequisite that can be empirically verified for new surrogates via the coherence diagnostic we provide.

Gli operatori neurali surrogati (NO) possono approssimare le soluzioni di equazioni differenziali alle derivate parziali (PDE) molto più rapidamente dei risolutori numerici, ma soffrono di bias spettrale: il contenuto ad alta frequenza viene sistematicamente attenuato, limitandone l'affidabilità nelle applicazioni che dipendono da strutture a piccola scala. In molti contesti sono disponibili osservazioni sparse del campo reale fornite da sensori, accurate localmente ma limitate a una piccola frazione del dominio. Affrontiamo il bias spettrale trattando le predizioni del surrogato come osservazioni ausiliarie in uno schema di diffusion posterior sampling (DPS). Il nostro metodo, FreqNO-DPS, combina una distribuzione a priori a diffusione incondizionata, basata sulla funzione score e addestrata su simulazioni ad alta fedeltà, con il DPS condizionato su osservazioni sparse e guidato da un operatore neurale pre-addestrato. L'integrazione diretta del surrogato ne reintroduce il bias spettrale; risolviamo questo problema derivando uno score di guida in forma chiusa e modellato spettralmente, che pesa il contributo del surrogato secondo la sua accuratezza dipendente dalla frequenza senza richiedere backpropagation attraverso il denoiser. Un'analisi valida per qualunque distribuzione dei dati limita l'errore di approssimazione e mostra che la dipendenza dalla frequenza della guida si conserva a prescindere dalle ipotesi distribuzionali dei dati. Sulla ricostruzione di campi d'onda elastici tridimensionali con copertura del 5% e del 2%, il metodo raggiunge un bias spettrale prossimo allo zero in tutte le bande, dove sia il surrogato deterministico sia il campionamento basato solo sui sensori mostrano attenuazione sistematica alle alte frequenze. La guida isotropa del surrogato riporta quasi inalterato il bias spettrale nella distribuzione a posteriori, confermando che la calibrazione dipendente dalla frequenza è essenziale e non solo vantaggiosa. Il metodo richiede solo coppie di predizioni del surrogato e campi di riferimento, e non sfrutta alcuna struttura specifica del problema oltre all'approssimata diagonalità spettrale del residuo, verificabile con la diagnostica di coerenza fornita.