Spacecraft Fault Detection, Isolation and Recovery (FDIR) relies predominantly on model based threshold logic. Such logic flags abrupt sensor faults reliably, yet it is structurally blind to a second kind of fault: the contextual anomaly, which alters the temporal pat tern of a telemetry signal while its amplitude stays within the nominal range. In the NASA SMAP/MSL benchmark of real in-orbit telemetry, 43 of the 105 labelled anoma lies are of this kind. This thesis asks whether generative models trained on real spacecraft telemetry can close that detection gap, and how far synthetic fault data can substitute for, augment, and characterise the data-driven detectors an operational FDIR system would deploy. The work proceeds in four phases. The detection baselines are evaluated on all 81 telemetry channels under the point-adjust protocol; the generative experiments use a clean channel-level held-out protocol, in which the generator never sees the chan nels reserved for evaluation. Data-driven detectors trained on real telemetry close the contextual gap by a wide margin, even from the primary telemetry channel alone: an unsupervised Variational Autoencoder and an LSTM regression network raise the mean F1 on contextual channels from the classical baseline’s 0.052 to 0.638 and 0.836 respectively at the oracle threshold, the LSTM reproducing the published benchmark to within 0.006. A conditional Wasserstein GAN, extended with four architectural contributions, synthesises fault windows that reproduce the contextual class to a Fréchet distance of 0.141 and match the real autocorrelation structure closely. On unseen held-out channels a classifier trained on synthetic data alone is not significantly worse than one trained on real data (0.474 against 0.631; Wilcoxon p = 0.13); with only 20 channels the test is low-powered, so this is the absence of a detectable difference rather than a demonstration of equivalence. Several results temper the picture. For the unsupervised detectors the deployable threshold is the parameter-free k = 3 rule, which synthetic-informed calibra tion does not beat; synthetic augmentation does not improve on cross-channel real data; and real fault windows do not transfer across channels. The principal contribution is a sensitivity-analysis methodology that turns the generator’s controllability to account, mapping detection F1 and latency across fault severity and duration on channels the generator never saw. Performance ranges from F1 = 0.255 for the smallest, shortest faults to 0.845 for the largest and longest, and the surface shows that fault duration matters more than fault severity for detectability. What emerges is a partial FDIR design data sheet of a kind that fixed labelled data cannot supply. The work therefore positions generative Digital Twin methods less as a replacement for real data than as a controllable instrument for designing and verifying spacecraft fault management.
I sistemi di Identificazione, Isolamento e Recupero dei Guasti (FDIR) dei veicoli spaziali si basano prevalentemente su logiche a soglia di tipo model-based. Queste logiche rilevano in modo affidabile i guasti improvvisi dei sensori, ma sono strutturalmente cieche rispetto a un secondo tipo di guasto: l’anomalia contestuale, che altera l’andamento temporale di un segnale di telemetria mentre l’ampiezza resta entro l’intervallo nominale. Nel bench mark NASA SMAP/MSL di telemetria reale in orbita, 43 delle 105 anomalie etichettate sono di questo tipo. La tesi indaga se modelli generativi addestrati su telemetria spaziale reale possano colmare questa lacuna di rilevamento, e in quale misura i dati di guasto sintetici possano sostituire, aumentare e caratterizzare i rilevatori data-driven che un sis tema FDIR operativo impiegherebbe. Il lavoro si articola in quattro fasi. I rilevatori di base sono valutati su tutti gli 81 canali di telemetria con il protocollo point-adjust; gli esperimenti generativi adottano invece un protocollo pulito di held-out a livello di canale, in cui il generatore non osserva mai i canali riservati alla valutazione. I rilevatori data driven addestrati su telemetria reale colmano in larga misura la lacuna sulle anomalie contestuali, e lo fanno a partire dal solo canale di telemetria primario: un Variational Autoencoder non supervisionato e una rete di regressione LSTM portano l’F1 medio sui canali contestuali dallo 0,052 della linea di base classica a 0,638 e 0,836 rispettivamente alla soglia oracle, con l’LSTM che riproduce il benchmark pubblicato entro 0,006. Una GAN di Wasserstein condizionale, estesa con quattro contributi architetturali, sintetizza finestre di guasto che riproducono la classe contestuale con una distanza di Fréchet di 0,141 e riproducono fedelmente la struttura di autocorrelazione reale. Su canali held-out mai osservati, un classificatore addestrato solo su dati sintetici non risulta significativa mente peggiore di uno addestrato su dati reali (0,474 contro 0,631; Wilcoxon p = 0,13); con soli 20 canali il test ha potenza limitata, quindi si tratta dell’assenza di una differenza rilevabile e non di una dimostrazione di equivalenza. Diversi risultati ridimensionano il quadro. Per i rilevatori non supervisionati la soglia operativa è la regola k = 3, priva di parametri, che la calibrazione informata dai dati sintetici non supera; l’aumento sin tetico non migliora i dati reali provenienti da altri canali; e le finestre di guasto reali non si trasferiscono tra canali. Il contributo principale è una metodologia di analisi di sensitività che sfrutta la controllabilità del generatore per mappare l’F1 e la latenza di rilevamento al variare della severità e della durata del guasto, su canali mai visti. Le prestazioni vanno da F1 = 0,255 per i guasti più piccoli e brevi a 0,845 per i più grandi e lunghi, e la superficie mostra che la durata del guasto conta più della severità nel determinarne la rilevabilità. Ne risulta una scheda di progetto FDIR parziale, di un tipo che i dati etichet tati fissi non possono fornire. Il lavoro propone quindi i metodi generativi di Digital Twin non tanto come sostituto dei dati reali, quanto come uno strumento controllabile per la progettazione e la verifica della gestione dei guasti dei veicoli spaziali.
Generative digital twin methods for spacecraft telemetry anomaly detection: toward Data-Driven FDIR design and testing
JAMSHIDI, MEHRAB
2025/2026
Abstract
Spacecraft Fault Detection, Isolation and Recovery (FDIR) relies predominantly on model based threshold logic. Such logic flags abrupt sensor faults reliably, yet it is structurally blind to a second kind of fault: the contextual anomaly, which alters the temporal pat tern of a telemetry signal while its amplitude stays within the nominal range. In the NASA SMAP/MSL benchmark of real in-orbit telemetry, 43 of the 105 labelled anoma lies are of this kind. This thesis asks whether generative models trained on real spacecraft telemetry can close that detection gap, and how far synthetic fault data can substitute for, augment, and characterise the data-driven detectors an operational FDIR system would deploy. The work proceeds in four phases. The detection baselines are evaluated on all 81 telemetry channels under the point-adjust protocol; the generative experiments use a clean channel-level held-out protocol, in which the generator never sees the chan nels reserved for evaluation. Data-driven detectors trained on real telemetry close the contextual gap by a wide margin, even from the primary telemetry channel alone: an unsupervised Variational Autoencoder and an LSTM regression network raise the mean F1 on contextual channels from the classical baseline’s 0.052 to 0.638 and 0.836 respectively at the oracle threshold, the LSTM reproducing the published benchmark to within 0.006. A conditional Wasserstein GAN, extended with four architectural contributions, synthesises fault windows that reproduce the contextual class to a Fréchet distance of 0.141 and match the real autocorrelation structure closely. On unseen held-out channels a classifier trained on synthetic data alone is not significantly worse than one trained on real data (0.474 against 0.631; Wilcoxon p = 0.13); with only 20 channels the test is low-powered, so this is the absence of a detectable difference rather than a demonstration of equivalence. Several results temper the picture. For the unsupervised detectors the deployable threshold is the parameter-free k = 3 rule, which synthetic-informed calibra tion does not beat; synthetic augmentation does not improve on cross-channel real data; and real fault windows do not transfer across channels. The principal contribution is a sensitivity-analysis methodology that turns the generator’s controllability to account, mapping detection F1 and latency across fault severity and duration on channels the generator never saw. Performance ranges from F1 = 0.255 for the smallest, shortest faults to 0.845 for the largest and longest, and the surface shows that fault duration matters more than fault severity for detectability. What emerges is a partial FDIR design data sheet of a kind that fixed labelled data cannot supply. The work therefore positions generative Digital Twin methods less as a replacement for real data than as a controllable instrument for designing and verifying spacecraft fault management.| File | Dimensione | Formato | |
|---|---|---|---|
|
Spacecraft Telemetry Anomaly Detection _ Mehrab Jamshidi.pdf
non accessibile
Dimensione
2.66 MB
Formato
Adobe PDF
|
2.66 MB | Adobe PDF | Visualizza/Apri |
|
executive summary _ Spacecraft Telemetry Anomaly Detection _Mehrab Jamshidi.pdf
non accessibile
Dimensione
636.8 kB
Formato
Adobe PDF
|
636.8 kB | Adobe PDF | Visualizza/Apri |
I documenti in POLITesi sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.
https://hdl.handle.net/10589/260951