AI companions for self-understanding: design tensions, case analyses and a design proposal

This thesis examines how contemporary AI companions are designed to support self-understanding and everyday psychological regulation. Rather than proposing a new technical system or evaluating clinical outcomes, it investigates how AI is currently positioned as a reflective companion — and what this implies for designers who shape these systems. The thesis adopts the Seeing–Reflecting–Supporting (SRS) framework as an analytical lens, organising the investigation across three stages: how AI systems perceive and model the user over time (Seeing); how AI feeds interpretations back through labels, summaries, and questions (Reflecting); and how AI scaffolds emotional regulation and small behaviour change (Supporting). A systematic literature review guided by the SRS framework synthesises research on mechanisms, technical limitations, and ethical risks, and identifies nine open design tensions expressed as user-led to AI-led continuums. These tensions guide in-depth case studies of two contrasting AI reflective applications: Rosebud, a journal-first tool, and Tolan, a companion-first app. The analysis reveals two shared design gaps across both products — the lack of memory governance and the lack of interpretive correction — alongside divergent design risks concentrated in different SRS layers. In response, the thesis presents Mira, a design proposal for a memory-governed reflective companion. Rather than treating AI memory as a personalisation feature, Mira treats it as something users should be able to inspect, revise, and govern. Through a diary archive, periodic reviews, a long-term portrait, pattern cards, and suggested strategies, Mira proposes a model of AI-supported reflection in which the user's own records remain the starting point, AI interpretation remains open to correction, and support builds user agency rather than dependency.

Questa tesi esamina come i companion AI contemporanei siano progettati per supportare l'auto-comprensione e la regolazione psicologica quotidiana. Piuttosto che proporre un nuovo sistema tecnico o valutare esiti clinici, la ricerca indaga come l'AI venga attualmente posizionata come companion riflessivo — e quali implicazioni ciò comporti per i designer che modellano questi sistemi. La tesi adotta il framework Seeing–Reflecting–Supporting (SRS) come lente analitica, organizzando l'indagine in tre fasi: come i sistemi AI percepiscono e modellano l'utente nel tempo (Seeing); come l'AI restituisce interpretazioni attraverso etichette, riassunti e domande (Reflecting); e come l'AI supporta la regolazione emotiva e piccoli cambiamenti comportamentali (Supporting). Una revisione sistematica della letteratura, guidata dal framework SRS, sintetizza la ricerca su meccanismi, limitazioni tecniche e rischi etici, e identifica nove tensioni di design aperte, espresse come continuum tra approcci user-led e AI-led. Queste tensioni guidano case study approfonditi su due applicazioni AI riflessive contrastanti: Rosebud, uno strumento incentrato sul journaling, e Tolan, un'app orientata alla compagnia. L'analisi rivela due lacune di design condivise da entrambi i prodotti — la mancanza di governance della memoria e la mancanza di correzione interpretativa — insieme a rischi di design divergenti concentrati in diversi livelli del framework SRS. In risposta, la tesi presenta Mira, una proposta di design per un companion riflessivo governato dalla memoria. Invece di trattare la memoria AI come una funzionalità di personalizzazione, Mira la considera qualcosa che gli utenti dovrebbero poter ispezionare, rivedere e governare. Attraverso un archivio di diari, revisioni periodiche, un ritratto a lungo termine, schede di pattern e strategie suggerite, Mira propone un modello di riflessione supportata dall'AI in cui i propri diari rimangono il punto di partenza, l'interpretazione AI resta aperta alla correzione, e il supporto costruisce l'autonomia dell'utente piuttosto che la dipendenza.