A framework for the ethical design of Internet of Things and its implications on Federated Learning

The rapid advancements in information technologies systems that allow the collection and interpretation of a large amount of data, has fostered the transition of Artificial Intelligence (AI) from theory to successful applications. The impacts of such spread made clear that together with societal and economic benefits these AI systems could generate a series of risks for individuals and society. To tackle the emergent ethical issues, many frameworks for ethical design and development of AI systems have been proposed. They combine engineering and human sciences and usually propose risk assessment methods and suggest preventive measures. The importance of the topics led to the intervention of policy makers and regulators, in particular we frame our work in the context of the newly proposed European framework, given its novelty and completeness. However, these frameworks often tackle these issues from an high level perspective, focusing on algorithmic aspects and assuming a classical cloud computing infrastructure. The associated risk is to overlook issues emerging from specific implementations and technologies. Indeed, the purpose of the thesis is to propose a framework which takes into account the lower level characteristics of the technology which implements an AI system. We focus on the field of Internet of Things (IoT) and in particular we underline that, due to the increase of processing capabilities of such devices, also the more computational intensive algorithms can run locally, close to the data sources. Of particular interest for our work therefore is the field of Federated Learning (FL). This framework exploit a paradigmatic scenario of a smart doorbell implementation, deployed at various levels of a proposed taxonomy based on the processing capabilities of the device. In this way, we can compare the ethical issues arising from the different levels and check if the ones arising from a FL implementation are foreseen or in contrast with the requirements of the European framework. The results led us to propose a variation of a FL state-of-the-art algorithm that solves some of these issues.

I rapidi progressi di sistemi informatici che consentono la raccolta di una grande quantità di dati hanno favorito il passaggio dell'Intelligenza Artificiale (IA) dalla teoria ad applicazioni di successo. Gli effetti di tale diffusione hanno reso chiaro che, insieme a benefici sociali ed economici, questi sistemi di IA potrebbero generare una serie di rischi per gli individui e la società. Per affrontare le questioni etiche emrgenti sono stati proposti diversi framework per la progettazione e lo sviluppo etico di sistemi di IA. Questi combinano ingegneria e scienze umane e di solito propongono metodi di valutazione del rischio e suggeriscono misure preventive. L'importanza dei temi ha portato all'intervento di regolatori, in particolare noi inquadriamo il nostro lavoro nel contesto del nuovo framework Europeo, vista la sua novità e completezza. Tuttavia, questi framework spesso affrontano questi problemi da una prospettiva di alto livello, concentrandosi sugli aspetti algoritmici e assumendo una classica infrastruttura cloud. Il rischio è quello di trascurare i problemi che emergono da implementazioni specifiche. Infatti lo scopo della tesi è proporre un framework che tenga conto anche delle caratteristiche di basso livello della tecnologia che implementa il sistema di IA. Ci focalizziamo sul campo dell'Internet of Things (IoT) sottolineando che, a causa dell'aumento delle capacità di elaborazione di questi dispositivi, anche gli algoritmi più gravosi possono ora essere eseguiti localmente, in prossimità delle fonti di dati. Interessante per il nostro lavoro, quindi, è il campo del Federated Learning (FL). Il nostro framework sfrutta lo scenario paradigmatico di una implementazione di un citofono smart, declinato su vari livelli di una tassonomia basata sulle capacità di elaborazione del dispositivo. In questo modo possiamo confrontare le questioni etiche che emergono dai rispettivi livelli e verificare se quelle derivanti da un'implementazione di FL sono previste o in contrasto con i requisiti del framework Europeo. I risultati ci hanno portato a proporre una variante dell'algoritmo rappresentante lo stato dell'arte di FL che risolva alcune di questi problemi.