Bias algoritmici e design. Come sviluppare un approccio progettuale responsabile e ridurre l’impatto dei bias algoritmici nei sistemi intelligenti

Thanks to technological and digital progress, powerful computers and intelligent tools are available to more and more people. We live in an interconnected world surrounded by systems that learn from our behavior and learn from our habits. The strong development underway permeates many aspects of our life and Machine Learning and Artificial Intelligence algorithms are opening up new scenarios and possibilities in the world of digital systems and services. This thesis aims to investigate bias, or prejudices, of how they manifest in the human mind and how they are transmitted to the algorithms on which many digital tools and computer systems that we use in everyday life are based. Discriminations of gender, ethnicity, religion, are unfortunately on the agenda, but when they hide within the code and data-sets of the technologies designed, how are they considered by the designers? What approaches and what tools do designers have to deal with these new scenarios? Design, in history, has repeatedly questioned the dynamics of man-machine interaction, and it is useful to start from those profound principles, linked to usability and ethics, to understand how they apply to the design of interactions with systems based on artificial intelligence. The main purpose of this thesis is therefore to provide a detailed description of algorithmic biases, where they arise and how they manifest, in order to provide a reflection tool to those involved in designing systems or services based on the use of intelligent algorithms and Machine Learning.

Grazie al progresso tecnologico e digitale, potenti computer e strumenti intelligenti sono disponibili a sempre più persone. Viviamo in un mondo interconnesso e circondati da sistemi che apprendono dal nostro comportamento e imparano dalle nostre abitudini. Il forte sviluppo in corso permea molti aspetti della nostra vita e gli algoritmi di Machine Learning e Intelligenza Artificiale stanno aprendo nuovi scenari e possibilità nel mondo dei sistemi e dei servizi digitali. Questa tesi vuole indagare la tematica dei bias, ovvero dei pregiudizi, di come si manifestano nella mente umana e di come vengono trasmessi agli algoritmi su cui si basano molti strumenti digitali e sistemi informatici che utilizziamo nel quotidiano. Discriminazioni di genere, di etnia, di religione, sono purtroppo all’ordine del giorno, ma quando si nascondono all’interno del codice e dei data-set delle tecnologie progettate, come vengono considerate dai designer? Quali approcci e che strumenti hanno a disposizione i progettisti per affrontare questi nuovi scenari? Il design, nel corso della storia, si è interrogato più volte sulle dinamiche dell’interazione uomo-macchina, ed è utile ripartire da quei principi profondi, legati all’usabilità e all’etica, per capire come si applicano alla progettazione di interazioni con sistemi basati su intelligenze artificiali. Lo scopo principale di questa tesi è dunque quello di fornire una descrizione dettagliata dei bias algoritmici, da dove nascono e come si manifestano, in modo da fornire uno strumento di riflessione a chi si occupa di progettare sistemi o servizi basati sull’utilizzo di algoritmi intelligenti e Machine Learning.