Uncertainty-aware continual learning for open-world intent discovery under an evolving label space

Intelligent systems deployed in real-world settings increasingly operate under open-world conditions, in which the user intent space is neither fixed nor exhaustively known a priori and may expand as novel interaction patterns emerge. Prior work has addressed intent detection, discovery and knowledge retention largely in isolation; their joint incremental treatment across multiple learning phases remains insufficiently explored. This thesis introduces a unified uncertainty-aware, probabilistic and adaptive framework for continual new intent discovery under a dynamically evolving label space. Each utterance is encoded by an adaptive beta-VAE into a latent mean, supporting classification and density modelling and a posterior uncertainty estimate, which acts as a global reliability signal. A multi-signal decision layer fuses classifier confidence, posterior uncertainty and DP-GMM likelihood to distinguish known intents from novel candidates. Reliable clusters identified by a density-based module are promoted to new intent labels, while Elastic Weight Consolidation and experience replay consolidate the model after each expansion, mitigating catastrophic forgetting. The framework advances the field on three axes: (i) continual intent discovery is formalised as a structured multi-phase open-world problem; (ii) a label-space expansion mechanism is adaptive and proposed under stability-plasticity constraints; (iii) posterior uncertainty serves as a unified control signal regulating sample selection, pseudo-labelling, novelty admission and replay. Experiments show controlled novelty detection, stable adaptation across sequential phases and limited forgetting through replay-EWC consolidation. Near-zero NMI and ARI values indicate limited recovery of the full fine-grained taxonomy, consistent with the framework’s conservative promotion policy. Nevertheless, qualitative analyses show that several promoted clusters form dense and locally coherent semantic regions, supporting reliable local discovery under an evolving label space.

I sistemi intelligenti reali operano in ambienti open-world dove lo spazio degli intenti non è fisso né noto a priori e può espandersi con l'emergere di nuovi pattern di interazione. I lavori esistenti tendono a trattare rilevamento, scoperta e conservazione della conoscenza come problemi separati, la loro integrazione congiunta in un processo incrementale multi-fase rimane ancora poco esplorata. Questa tesi introduce un framework probabilistico unificato, consapevole dell'incertezza e adattivo per la scoperta continua di nuovi intenti in uno spazio delle etichette in evoluzione. Ciascun enunciato è codificato da una beta-VAE adattiva in una media latente, a supporto di classificazione e modellazione della densità e in una stima dell'incertezza posteriore, usata come segnale di affidabilità globale. Un livello decisionale multi-segnale combina confidenza del classificatore, incertezza posteriore e verosimiglianza del DP-GMM per riconoscere nuovi candidati. I cluster affidabili identificati da un modulo basato sulla densità vengono promossi a nuove etichette, mentre Elastic Weight Consolidation e replay consolidano il modello dopo ogni espansione, mitigando la dimenticanza catastrofica. Il framework apporta tre avanzamenti: (i) la scoperta continua è formalizzata come problema strutturato di apprendimento open-world multi-fase; (ii) un meccanismo adattivo di espansione dello spazio delle etichette è proposto sotto vincoli di stabilità-plasticità; (iii) l'incertezza posteriore funge da segnale di controllo unificato che regola selezione dei campioni, pseudo-etichettatura, ammissione alla novità e replay. I risultati mostrano rilevamento controllato della novità, adattamento stabile su fasi sequenziali e dimenticanza catastrofica limitata. Valori prossimi allo zero di NMI e ARI indicano recupero limitato dell'intera tassonomia fine-grained, coerente con la politica conservativa di promozione. Le analisi qualitative mostrano tuttavia che diversi cluster promossi formano regioni semantiche dense e localmente coerenti, a supporto di una scoperta locale affidabile in uno spazio delle etichette in evoluzione.