Do you trust me ? Experimenting on the creation of dialogue in recommender systems

Trust in technology is tricky. It exposes to risks when it is too high or leads to missing important opportunities when it is too low. Reciprocal awareness through communication seems to be a good solution to guarantee balance in this situation. Recommender systems are information retrieval technologies that support the personalisation of content in digital services and with the advent of big data, they became ubiquitous to challenge information overload. With their complexity and the introduction of machine learning, they are the perfect example of opaque technology (black-box). Their application raises several ethical issues and recommendations are often sources of privacy concerns and the perception of being spied on, making them the perfect environment to explore the themes of trust in technology. Recommender systems received a lot of attention on the technical side and the optimisation of algorithms while little has been done on the side of human-computer interaction in the last years. For this reason, it is crucial to explore what user experience design can do to contribute to the development of this kind of technology. Starting from an established user experience evaluation framework for recommender systems, this thesis introduces the concept of Dialogue based on the acknowledged concepts of Transparency and control. The research aims at experimenting with this new concept and exploring its effects on Trust towards recommender systems, to demonstrate its efficacy and legitimate its application. The research is conducted through the means of design and its processes, and its goal is to understand how to evaluate the quality of the key concepts in existing recommender systems or during the design process and to identify a set of good design patterns to implement Dialogue in interactive recommender systems. Based on the results from this experimentation, the output of the thesis is a set of guidelines for the design of trustworthy recommender systems based on the concept of Dialogue.

Avere fiducia nella tecnologia è delicato. Espone a diversi rischi quando eccessiva mentre porta a perdersi grandi opportunità quando è troppo bassa. La consapevolezza reciproca, ottenuta attraverso una buona comunicazione, sembra essere una valida soluzione per garantire un equilibrio nei confronti di questa situazione. I sistemi di raccomandazione sono tecnologie di recupero delle informazioni e personalizzazione dei contenuti nei servizi digitali e, con l’avvento dei big data, si sono diffusi ovunque per far fronte al sovraccarico di informazioni. Per la loro complessità l’impiego del machine learning rappresentano il perfetto esempio di una tecnologia opaca, che non permette agli utenti di comprenderne il funzionamento. Il loro utilizzo solleva diverse questioni etiche ed è spesso la causa di preoccupazioni per la privacy come la sensazione di essere spiati. Questo li rende l’ambiente perfetto per esplorare il tema della fiducia nella tecnologia. Fin’ora questi sistemi hanno ricevuto attenzione principalmente dal lato tecnico di ottimizzazione degli algoritmi, mentre poco è stato fatto dal punto di vista dell’interazione uomo-macchina. Per questo motivo, è cruciale esplorare come possa contribuire il design dell’esperienza utente allo sviluppo di questo tipo di tecnologie. A partire da un modello affermato di valutazione dell’esperienza utente dei sistemi di raccomandazione, si introduce il concetto di Dialogo basato sui consolidati concetti di Trasparenza e Controllo. La ricerca va a sperimentare questo nuovo concetto per evidenziare possibili effetti sulla fiducia riposta nei sistemi di raccomandazione, così da mostrarne l’efficacia e legittimarne l’applicazione. La ricerca è condotta attraverso strumenti e processi del design al fine di capire come valutare la qualità dei concetti proposti in sistemi di raccomandazione esistenti o durante il processo di design e di individuare delle buone pratiche di design per applicare il Dialogo nei sistemi di raccomandazione interattivi. Sulla base dei risultati della sperimentazione, sono redatte delle linee guida per la progettazione basata sul Dialogo mirate alla fiducia nei sistemi di raccomandazione.