Beyond digital diagnosis : visualizing decision making paths of different self-diagnosis apps

The Self-Diagnosis application, which use the chatbot system to help people check symptom are more widely used in recent years. While they promise faster, more convenient and accurate, little is known about how their inner algorithm works and what are the differences between different diagnostic paths for lay users, especially when they give unfaithful outputs. According to the user review on Google Play Store, negative reviews about the output account for not a small proportion of diagnosis applications, and through the subsequent experiments, the different decision-making paths can result in totally different outputs even with the same input. Therefore, there is a keen need to interpret the diagnostic process and build an explanation path for lay users or relevant stakeholders to help them understand how this kind of algorithm takes high-stake decisions in people’s daily life. The user reviews of the top 3 downloads diagnosis applications on Google Play Store are collected in this project, intending to define the most common pain point of symptom and disease from the user’s perspective, and then use these symptoms as cases to build a visualization method to disclose how decision-making model works and show the comparison of different diagnostic paths in an understandable way.

L'applicazione di autodiagnosi, che utilizza il sistema chatbot per aiutare le persone a controllare i sintomi, è stata ampiamente utilizzata negli ultimi anni. Mentre promettono più velocemente, più convenienti e accurati, si sa poco su come funziona il loro algoritmo interno e quali sono le differenze tra i diversi percorsi diagnostici per gli utenti laici, specialmente quando danno risultati infedeli. Secondo la recensione dell'utente su Google Play Store, le recensioni negative sull'output rappresentano una percentuale non piccola di applicazioni di diagnosi e, attraverso gli esperimenti successivi, i diversi percorsi decisionali possono portare a output totalmente diversi anche con lo stesso input. Pertanto, vi è un forte bisogno di interpretare il processo diagnostico e costruire un percorso di spiegazione per gli utenti laici o le parti interessate rilevanti per aiutarli a capire come questo tipo di algoritmo prende decisioni ad alto rischio nella vita quotidiana delle persone. In questo progetto vengono raccolte le recensioni degli utenti delle prime 3 applicazioni di diagnosi dei download su Google Play Store, con l'intento di definire il punto dolente più comune di sintomo e malattia dal punto di vista dell'utente, e quindi utilizzare questi sintomi come casi per costruire un metodo di visualizzazione per rivelare come funziona il modello decisionale e mostrare il confronto di diversi percorsi diagnostici in modo comprensibile.