Interactive transfer learning for automated sleep scoring optimization

The reason why developers have been investing considerable efforts in designing powerful deep neural networks lies in the opportunity of leveraging the efficiency of the new-millennium technologies to produce valuable outcomes in a faster, more suitable and more effective manner than ever. However, artificial intelligence tools are struggling to be adopted in high-stack domain, where stakeholders are concerned about what they cannot completely understand, particularly in the healthcare environment. The “black-box” nature of deep neural networks makes their adoption in the daily-routine quite challenging. Explaining the deep learning hidden processes is not feasible and the user is not willing to trust what cannot be explained. This thesis presents a feasible approach to overcome this limitation in the application of deep neural network for automatic sleep scoring. The possibility of interacting with the machine could empower the physician in actively improving the knowledge of the network and, consequently, in increasing trust. Furthermore, the neural networks could increase their performances whenever the sleep-expert communicate new preferences regarding the scoring procedure. The process simulates the end-user interaction with an automated sleep scoring algorithm, based on deep learning. A communication between sleep-expert and networks is enabled exploiting the interactive learning approach.Transfer learning allows the network adaptation to the new data and to the scorer domains. All the evaluated network architectures are characterized by good generalization capabilities after training from scratch. As expected, capabilities drop at the first exploitation on data belonging to a different sleep laboratory that has different scoring preferences. The interactive transfer learning approach allows to quickly increase the performances, actively selecting the most critical electroencephalographic epochs, querying the sleep expert about the labels and retraining the model according to these data. Different selection rules have been analyzed. The final results show an evident increment after less than 20 interactions, with a dataset significantly small-sized for each fine-tuning. Further improvements should optimize the interaction between human and machine, facilitating it and avoiding the scorer error learning. The ability to identify the misclassified epoch emerged during the development. Exploiting this capability could lead to additional increment of the networks performances before starting the interaction.

Oggigiorno programmatori investono notevoli risorse per sviluppare sistemi di intelligenza artificiale, con lo scopo di sfruttare le tecnologie del nuovo millennio per produrre risultati di alta qualità in maniera rapida ed efficace. Sebbene l’utilità di questi sistemi sia stata più volte dimostrata, essi non sempre vengono adottati per il loro scopo. Questo accade soprattutto in ambito medico, dove dall’esito di questi sistemi dipende la vita delle persone. La ragione non risiede nelle basse prestazioni delle reti, che al contrario spesso superano quelle umane, ma nella mancanza di fiducia da parte dei professionisti. Vista la complessità matematica e la mancanza di dimostrazioni analitiche riguardo la loro funzionalità, molti non sono pronti a fidarsi ciecamente dei risultati che producono. Di conseguenza, lo sforzo degli sviluppatori nel creare potenti algoritmi utili all’essere umano risulta spesso vano. In questa tesi viene presentato un metodo che vuole risolvere tale problema, con riferimento a reti neurali di tipo deep capaci di classificare automaticamente le varie fasi del sonno. Le reti analizzate, una volta addestrate, sono tutte caratterizzate da ottime prestazioni. Tuttavia, al loro primo utilizzo in un particolare laboratorio del sonno, esse non dimostrano le stesse prestazioni. Ciò è causato dalle diverse preferenze tra laboratori nel classificare le fasi del sonno. Il metodo qui presentato, chiamato interactive transfer learning, permette di allineare rapidamente la rete con le preferenze di un singolo centro di medicina del sonno. L’intero processo di interazione fra uomo e rete neurale è stato qui simulato. Le finestre di elettroencefalogramma che la rete ha difficoltà a classificare, vengono attivamente individuate attraverso diverse regole di selezione. L’esperto viene dunque interrogato riguardo lo stadio del sonno che egli desidera venga restituito per tali finestre. Una volta conclusa l’interazione, la rete utilizza queste informazioni come nuovi dati di addestramento. Il risultato è un netto miglioramento dell’accuratezza della rete dopo meno di 20 interazioni. L’interazione fra uomo e macchina può essere la chiave per accrescere la fiducia dell’esperto nel sistema artificiale. Il dottore è libero di correggere i risultati della rete e di comunicare le sue preferenze nel classificare varie fasi del sonno. La rete a sua volta acquisisce nuove conoscenze e migliora le proprie capacità sulla base delle informazioni fornite dall’esperto.