Opening the black box: addressing bias in AI-driven industrial design

This thesis explores the intersection between industrial product design and artificial intelligence, analysing how the integration of new AI technologies in design processes might amplify existing cognitive biases already present within the design discipline and introduce new ones specific to AI. The paper starts by delineating the birth and evolution of early AI systems, with a focus on the working infrastructure behind modern technologies such as machine learning, neural networks and natural language processing. Through a literature review, I then analyse the social role of a product designer, highlighting how power and privilege are influencing factors in decision-making, also addressing ethnocentrism and the Western roots of the discipline, examining how these sociological factors play a key role in maintaining the status quo in the design field. There is then an analysis of cognitive biases and their presence in design and in new AI technologies, with implications also for technical documentation and material science. The thesis also discusses the risks deriving from the application of unsupervised AI algorithms and the propagation of biases due to unfair datasets and incomplete statistical methods. In conclusion, the work proposes methods and strategies to mitigate biases in both design and in AI, promoting concepts such as gender equality, inclusive design, and social justice through a proactive and more conscious approach of designers towards the challenges posed by the new AI-powered design era.

Questa tesi esplora l'intersezione tra progettazione di prodotti industriali e intelligenza artificiale, analizzando come l'integrazione di nuove tecnologie di intelligenza artificiale nei processi di progettazione possa amplificare i bias cognitivi esistenti già presenti nella disciplina del design e introdurne di nuovi specifici dell'intelligenza artificiale. Il documento inizia delineando la nascita e l'evoluzione dei primi sistemi di intelligenza artificiale, con un focus sull'infrastruttura funzionale alla base delle tecnologie moderne, come il machine learning, le reti neurali e l'elaborazione del linguaggio naturale. Attraverso una literature review, analizzo quindi il ruolo sociale di un progettista di prodotti, evidenziando come potere e privilegio influenzino i fattori nel processo decisionale, affrontando anche l'etnocentrismo e le radici occidentali della disciplina, esaminando come questi fattori sociologici svolgano un ruolo chiave nel mantenimento dello status quo nel campo del design. C'è poi un'analisi dei bias cognitivi e della loro presenza nella progettazione e nelle nuove tecnologie di intelligenza artificiale, con implicazioni anche per la documentazione tecnica e la scienza dei materiali. La tesi discute anche dei rischi derivanti dall'applicazione di algoritmi di intelligenza artificiale non supervisionati e dalla propagazione di pregiudizi dovuti a set di dati ingiusti e metodi statistici incompleti. In conclusione, il lavoro propone metodi e strategie per mitigare i pregiudizi sia nel design che nell'intelligenza artificiale, promuovendo concetti come l'uguaglianza di genere, la progettazione inclusiva e la giustizia sociale attraverso un approccio proattivo e più consapevole dei progettisti verso le sfide poste dalla nuova era della progettazione basata sull'intelligenza artificiale.