A comparative study of uncertainty-driven vision transformers for in-situ image segmentation in additive manufacturing

Additive Manufacturing (AM) has experienced rapid growth and is widely adopted in industry due to its flexibility in producing complex geometries. However, large-scale adoption remains limited, in part due to the frequent occurrence of structural defects that compromise component quality and process reliability. To monitor such anomalies, Deep Learning (DL) and Artificial Intelligence (AI) models have recently emerged as promising tools for in-situ monitoring, thanks to their ability to automatically extract process signatures directly from input data, which in industrial AM contexts typically consist of layer-wise optical or thermal images acquired during the build process. Among these, Vision Transformers (ViTs) represent a growing trend due to their ability to capture global relationships through self-attention. However, AI models are often considered “black boxes” as they do not provide information on prediction confidence. This limitation becomes particularly critical in AM monitoring, when the available images are inherently noisy, the resolution may be suboptimal, and even high-precision ground truth labels may contain inaccuracies and not visually match in-situ morphologies. Uncertainty quantification addresses this limitation by providing additional information through approaches ranging from statistical methods, Bayesian, to more heuristic techniques, Deterministic. Despite this, comparative studies systematically evaluating these methods and their added value in the context of AM monitoring are lacking. In this thesis, a critical comparison between Deterministic and Bayesian ViT is conducted by evaluating the architectures across various analysis dimensions, including reliability, robustness, and efficiency. The results show a clear trade-off: Deterministic ViT is computationally lighter and provides more accurate performance under nominal conditions but degrades rapidly in the presence of anomalies. In contrast, Bayesian ViT provides more robust predictions, generating informative uncertainty maps that highlight standard deviation peaks corresponding to the regions affected by anomalies. By analyzing these peaks exclusively, a novel probabilistic control chart was developed, capable of automatically identifying and locating faulty regions, with a True Positive Rate (TPR) of 94.6\%. This highlights the real added value of Bayesian uncertainty for early defect detection, especially compared to the failure of control charts based on segmentation metrics and Deterministic uncertainty. By introducing uncertainty quantification, the Bayesian approach shows potential for early in-line defect detection, offering a more interpretable solution. Consequently, it aims to support timely interventions, contributing to the reduction of material waste, minimization of energy consumption, and improvement of overall productivity, provided that integration into a real-time monitoring system is made feasible by the constraints of the AM process, considering the relatively high inference times.

L’Additive Manufacturing (AM) ha conosciuto una rapida crescita tale da essere ampiamente adottato in ambito industriale grazie alla sua flessibilità nella produzione di geometrie complesse. Tuttavia, l’adozione su larga scala rimane limitata a causa anche delle frequenti occorrenze di difetti strutturali che compromettono la qualità del componente e l’affidabilità del processo. Per monitorare tali anomalie, modelli di Deep Learning (DL) e di Artificial Intelligence (AI) sono emersi recentemente come strumenti promettenti per il monitoraggio in-situ, grazie alla loro capacità di estrarre automaticamente process signature direttamente dai dati in input, che nei contesti industriali di AM consistono tipicamente in immagini ottiche o termiche a livello di strato acquisite durante il processo di produzione. Tra questi, i Vision Transformer (ViT) rappresentano un trend crescente grazie alla loro capacità di catturare relazioni globali tramite il meccanismo di self-attention. Tuttavia, i modelli AI sono spesso considerati come delle “black-box”, in quanto non forniscono informazioni sulla confidenza di predizione. Questa limitazione diventa particolarmente critica nel monitoraggio AM, quando le immagini disponibili sono intrinsecamente rumorose, la risoluzione può essere subottimale e persino le label di ground truth, seppur ad alta precisione, possono contenere inaccuratezze e non corrispondere visivamente alle morfologie in-situ. La quantificazione dell’incertezza affronta questa limitazione fornendo informazioni aggiuntive tramite approcci che variano da metodi statistici, Bayesiani, a tecniche più euristiche, Deterministiche. Nonostante ciò, mancano studi comparativi che valutino in modo sistematico questi metodi e il loro valore aggiunto nel contesto di monitoraggio AM. In questa tesi, una comparazione critica tra il ViT Deterministico e Bayesiano viene condotta valutando le architetture tra varie dimensioni di analisi, tra cui affidabilità, robustezza ed efficienza. I risultati mostrano un chiaro trade-off: il ViT Deterministico è computazionalmente più leggero e fornisce prestazioni più accurate in condizioni nominali, ma degrada rapidamente in presenza di anomalie. Al contrario, il ViT Bayesiano fornisce predizioni più robuste, generando mappe di incertezza informative che evidenziano picchi di deviazione standard in corrispondenza delle regioni affette da anomalie. Analizzando esclusivamente questi picchi, un nuovo control chart probabilistico è stato sviluppato, capace di identificare e localizzare automaticamente le regioni difettose, con un True Positive Rate (TPR) del 94.6\%. Ciò evidenzia il reale valore aggiunto dell’incertezza Bayesiana per l’early defect detection, specialmente in confronto al fallimento dei control chart basati su metriche di segmentazione e sull’incertezza Deterministica. Introducendo la quantificazione dell’incertezza, l'approccio Bayesiano mostra potenzialità per il rilevamento precoce dei difetti in-line, offrendo una soluzione più interpretabile. Di conseguenza, ambisce a supportare interventi tempestivi contribuendo alla riduzione degli sprechi di materiale, minimizzazione del consumo energetico e al miglioramento della produttività complessiva, a condizione che l'integrazione in un sistema di monitoraggio in tempo reale sia resa fattibile dai vincoli del processo di AM, considerando i tempi di inferenza relativamente elevati.