Adversarial attacks against federated learning systems : a review

In the last few years interest in Federated Learning systems has increased dramatically: they have been proven to be effective and efficient in all those scenarios where a safe distributed training mechanism is needed, allowing to overcome the privacy and performance limitations that standard techniques face. The growing adoption of this kind of system has also led to the development of many attacks against it to achieve different adversarial objectives, ranging from backdooring the learned model to leaking the private information owned by the participants of the training process. This thesis’ objective is to study the current state-of-the-art of such techniques, providing a complete overview and categorization of the most effective ones; this could be beneficial not only to further improve them, overcoming their limitations, but also to help Federated Learning systems’ designers to develop more robust and secure architectures. To do this, several papers discussing adversarial attacks have been deeply analyzed and a Systematization of Knowledge - SoK - has been created using a number of parameters to provide an easy way to compare each technique against each other. Moreover, some possible future developments of the considered works have been proposed, taking into consideration their main weaknesses and the less analyzed scenarios. In conclusion, a comparison with similar surveys has been created to highlight how this thesis can provide a more comprehensive overview of Federated Learning attacks.

Negli ultimi anni l’interesse per i sistemi di Federated Learning è aumentato significativamente: questi si sono dimostrati particolarmente efficaci in tutti quei contesti in cui è necessario un meccanismo di training distribuito sicuro, che permetta di affrontare le limitazioni in termini di privacy e performance che le tecniche standard non permettono di superare. La crescente adozione di questa tipologia di sistemi ha portato allo sviluppo di numerosi attacchi con lo scopo di raggiungere diversi obiettivi avversariali, che vanno dalla creazione di backdoor nel modello prodotto alla divulgazione di informazioni private possedute dai partecipanti del processo di training. L’obiettivo di questa tesi è quello di studiare l’attuale stato dell’arte di tali tecniche, fornendo una completa panoramica e categorizzazione delle migliori; questo può risultare utile non solo per lo studio di eventuali migliorie degli attacchi considerati ma anche per fornire un supporto ai progettisti nel creare sistemi di Federated Learning più robusti e sicuri. Per fare ciò, sono stati analizzati numerosi paper riguardanti attacchi avversariali e una Systematization of Knowledge - SoK - è stata creata tenendo in considerazione vari parametri con lo scopo di fornire un modo rapido e intuitivo di comparare le diverse tecniche studiate. Sono stati inoltre riportati diversi possibili sviluppi futuri dei lavori considerati, con lo scopo di superare le loro principali debolezze e aumentare il numero di applicazioni negli scenari meno studiati. Infine, una comparazione con studi simili a quello proposto è stata realizzata per evidenziare come questa tesi sia in grado di fornire una overview più completa sugli attacchi ai sistemi di Federated Learning.