Employing communication for building learned trust in autonomous vehicles: a qualitative pilot study

As autonomous vehicles (AVs) advance towards full automation, trust between passengers and the automated systems becomes a critical factor to their existence. This research presents a pilot study on developing a design framework to help build and maintain a dynamic learned trust during interactions with fully autonomous vehicles by exploring various information types, structures, and communication modalities. The study draws on insights from previous research, semi-structured interviews with 6 users and 3 experts to identify key design elements that influence trust.
  
Key findings suggest that minimizing driving-related information and instead focusing on journey-related details can prevent passengers from feeling the need to monitor the vehicle’s decisions, thereby fostering trust. The concept of "Information on Demand" emerged as a valuable approach to balance transparency and personalization, allowing passengers to request specific information whenever is needed. Additionally, "technical explanations" were identified as effective in restoring trust when errors occur, emphasizing the importance of timely and clear communication. The research also highlighted the limited impact of non-driving tasks, such as entertainment on trust. Furthermore, communication modalities should be tailored to the type of information being conveyed, taking into account various risks and the passengers’ ability to process different communication methods.
  
This pilot study’s results lay the foundations for a larger scale study aiming to examine various factors that influence the dynamic learned trust during the interaction with the automated system in the vehicles.  

Con l'avanzare dei veicoli autonomi (AV) verso la completa automazione, la fiducia tra i passeggeri e i sistemi automatizzati diventa un fattore critico per la loro esistenza. Questa ricerca presenta uno studio pilota sullo sviluppo di un quadro progettuale che aiuti a costruire e mantenere una fiducia dinamica appresa durante le interazioni con i veicoli completamente autonomi, esplorando vari tipi di informazioni, strutture e modalità di comunicazione. Lo studio si basa sulle intuizioni di ricerche precedenti e su interviste semi-strutturate con 6 utenti e 3 esperti per identificare gli elementi chiave della progettazione che influenzano la fiducia.
  I risultati principali suggeriscono che ridurre al minimo le informazioni relative alla guida e concentrarsi invece sui dettagli del viaggio può evitare che i passeggeri sentano il bisogno di controllare le decisioni del veicolo, favorendo così la fiducia. Il concetto di “informazioni su richiesta” è emerso come un valido approccio per bilanciare trasparenza e personalizzazione, consentendo ai passeggeri di richiedere informazioni specifiche quando necessario. Inoltre, le “spiegazioni tecniche” sono state identificate come efficaci per ripristinare la fiducia in caso di errori, sottolineando l'importanza di una comunicazione tempestiva e chiara. La ricerca ha anche evidenziato l'impatto limitato sulla fiducia di attività diverse dalla guida, come l'intrattenimento. Inoltre, le modalità di comunicazione dovrebbero essere adattate al tipo di informazione da trasmettere, tenendo conto dei vari rischi e della capacità dei passeggeri di elaborare diversi metodi di comunicazione.
  I risultati di questo studio pilota gettano le basi per uno studio su scala più ampia, volto a esaminare i vari fattori che influenzano la dinamica della fiducia appresa durante l'interazione con il sistema automatizzato a bordo dei veicoli.