Tackling the issue of bias in artificial intelligence to design AI-driven fair and inclusive service systems. How human biases are breaching into AI algorithms, with severe impacts on individuals and societies, and what designers can do to face this phenomenon and change for the better

In the last decade, Artificial Intelligence (AI) has evolved exponentially, becoming a massive ecosystem with a huge impact on individuals and society. Originally, AI has been defined as the science of making machines do things that would require intelligence if done by humans, yet more recent definitions put the emphasis on the AI system’s ability to interpret external data correctly, to learn from such data, and to use those learnings to achieve specific goals and tasks through flexible adaptation. AI is a broad field including many theories, methods, technologies and subfields (e.g. Machine Learning): basically, it works by combining massive amounts of data with fast, iterative, processing algorithms that allow the software to cluster, optimize, detect patterns, learn and make predictions. Nowadays, AI is embedded in the infrastructure of our core institutions and AI systems are being applied to many areas of human life across almost every sector, such as education, healthcare, housing, employment, social media, finance, etc., making decisions that were before taken by humans. However, in the last years, the field has worshiped the altar of the technical, prioritizing moving fast and breaking things over the social-ethical dimensions. Even if the social and ethical concerns raised by AI applications are increasingly recognized by the community, yet AI ethics is failing in many cases. One of the main issues is bias breaching in AI systems, causing harm, perpetuating and amplifying already existing prejudices and inequalities. This thesis aims to present and analyze this phenomenon in order to outline the role of designers in tackling biased AI systems, by proposing guidelines toward the design of more inclusive, fair AI-driven services. Here, the four main areas for designers’ intervention identified and described are: a) pursuing deeper awareness; b) looking across the box; c) being the bridge for multidisciplinarity; c) building methodologies. The importance of the task is high, as the failure in addressing the issue of bias and its impacts would represent a failure to catch AI potential, potential harm for people, and thus missing a great opportunity for improving social good.

Gli ultimi anni sono stati caratterizzati da un rapido sviluppo e diffusione dell’Artificial Intelligence (AI), che ha assunto la forma di un vasto ecosistema in grado di impattare la vita di individui e società. In origine, l’AI è stata definita come la scienza delle macchine in grado di operare in un modo che richiederebbe intelligenza se fosse fatto dagli umani; definizioni più recenti mettono il focus sulla capacità di queste macchine di interpretare i dati correttamente, imparare, adattarsi e raggiungere obiettivi specifici. Il campo dell’AI è estremamente vasto e comprende una serie di teorie, metodi, tecnologie e sottocampi (tra cui il Machine Learning): essenzialmente, il funzionamento si basa sulla processazione di enormi quantità di dati tramite algoritmi veloci e iterativi che li clusterizzano, trovano patterns, imparano e producono determinati output. Oggi, gli AI systems sono trasversalmente integrati nelle nostre industrie, organizzazioni e istituzioni, nella maggioranza dei settori, come e educazione, sanità, mercato del lavoro e immobiliare, social media, finanza etc., e prendono decisioni una volta affidate agli esseri umani, che hanno conseguenze reali sulla vita delle persone. . Tuttavia, gli ultimi anni hanno visto una prioritizzazione dello sviluppo tecnologico rispetto alla dimensione socio-etica e alle implicazioni connesse. Tra queste, emerge la problematica dei bias (pregiudizi), che penetrano negli AI systems dove vengono replicati e amplificati, perpetrando ingiustizie e disuguaglianze e intaccando ulteriormente categorie già soggette a pregiudizi discriminazioni. L’obiettivo di questa tesi è quello di indagare questo fenomeno, strettamente collegato a quello dei bias cognitivi, in modo da delineare il ruolo del del designer nella soluzione del problema. Il risultato sono delle linee guida per il designer per la progettazione di servizi AI-driven che siano anche inclusivi e equi. Con questo fine, sono identificate e declinate quattro aree di intervento: a) perseguimento della consapevolezza; b) approccio looking across the box; c) orchestrazione della multi-disciplinarietà; d) creazione di metodologie. La responsabilità del designer è alta, così come lo è la posta in gioco, in quanto l’insuccesso nel fronteggiare e risolvere queste problematiche significherebbe il fallimento nel catturare le opportunità dell’AI per migliorare il benessere della società.