Explainable AI in medicine : application on EMG data for myo-controlled prosthesis

AI has recently found a fertile ground in EMG signal decoding for prosthesis control: AI-powered myo-controlled robotic limbs are showing promising performances in restoring missing functions providing conscious control of the movement. Nevertheless, their acceptance is strongly limited by the notion of AI models as black-boxes. In critical fields, such as medicine and neuroscience, understanding the neurophysiological phenomena underlying models outcomes is as relevant as the classification performance. We propose to put eXplainable Artificial Intelligence (XAI) into the EMG hand movement classification task to understand the outcome of machine learning models (LDA, SVM and XRT) and deep learning models such as CNNs with respect to physiological processes. We adapt and generalise SHAP and Grad-CAM to our specific type of data and problem, evaluating the contribution of each input feature or input pixel to the prediction. We propose a new correlation-SHAP approach for feature selection that outperforms heuristic and correlation-based methods, leading to classification improvements in term of robustness, computational time and performances. Our approach achieves, with only three selected features, the same performance of the original set of fifteen features, while decreasing the inference time from 275 ms to 0.05 ms. Furthermore, we provide physiologically highly plausible explanations of how ML and CNNs classify EMG, achieving an unprecedented level of details about hand movement automatic recognition. Finally, we verify that it is possible to minimise the number of electrodes while preserving classification performance: we reduce the number of electrodes from ten to six, placed close to the elbow, avoiding redundant information and achieving competitive performances in respect to the original model (pval >> 0.05). This drastically reduces the cost of the hardware, the computational time and the complexity of the system, and, at the same time, it minimises the required body surface, ensuring the suitability of this system for all level of amputation of the forearm.

Recentemente, l'Intelligenza Artificiale ha trovato un terreno fertile nella decodifica del segnale EMG per il controllo di protesi: gli arti robotici miocontrollati e potenziati con l'IA stanno mostrando buone prestazioni nel ripristinare le funzioni mancanti, fornendo un controllo cosciente del movimento. Tuttavia, la loro accettazione è fortemente limitata dalla natura intriseca di scatole nere degli algoritmi di IA. In campi critici, come la medicina e le neuroscienze, la comprensione dei fenomeni neurofisiologici alla base dei risultati ottenuti con i modelli opachi è rilevante quanto le prestazioni di classificazione. In questo lavoro, proponiamo di inserire la XAI nel problema di classificazione del movimento della mano tramite riconoscimento del segnale elettromiografico, per comprendere il risultato dei modelli di apprendimento automatico, LDA, SVM e XRT e CNN, rispetto ai processi fisiologici. Per raggiungere questo obiettivo, adattiamo e generalizziamo SHAP e Grad-CAM rispetto alla nostra specifica tipologia di dati e al problema, valutando il contributo di ogni feature di input o pixel di input alla classificazione. Introduciamo un nuovo approccio tramite la combinazione correlazione-SHAP per la selezione delle features, che dimostra di superare i metodi euristici e basati sulla sola correlazione, portando a miglioramenti della classificazione in termini dirobustezza, tempo di calcolo e prestazioni. Il nostro approccio raggiunge, con solo tre features selezionate, le stesse prestazioni del modello iniziale con quindici features, riducendo il tempo di inferenza da 275 ms a 0,05 ms. Inoltre, siamo in grado di fornire spiegazioni fisiologicamente altamente plausibili su come ML e CNN classificano il segnale EMG, raggiungendo un livello di dettagli senza precedenti sul riconoscimento automatico del movimento della mano. Infine, verifichiamo che le informazioni dei canali sono ridondanti: riduciamo quindi il numero di elettrodi da dieci a sei, posti vicino al gomito, ottenendo prestazioni competitive rispetto al modello originale (pval>>0,05). Questo riduce drasticamente il costo dell'hardware, il tempo di calcolo e la complessità del sistema e, allo stesso tempo, riduce al minimo la superficie cutanea richiesta, garantendo l'idoneità di questo sistema per tutti i livelli di amputazione dell'avambraccio.