Gender biases in technology. How they are shaping our world

The lack of female representation in the hyper-personalised technology development like digital companions, as well as ideal of final users, led to artefacts which creates gender exclusion, amplified by algorithms. They reflect only a circle of users and not underrepresented categories like women. One of the main causes is the gender bias living in the single person, inside the group work, the society and a specific culture. If it is not overcome, gender bias can be embedded inside both the digital companion and its algorithm, shape and functionalities which can amplify the person’s and creator’s gender bias and it can be transferred directly through the use to the final user. This thesis explores the design possibility to take action into the digital companion design process to investigate, understand and overcome creators’ gender biases. The objectives are to avoid personal gender bias transmission to the artefacts, to transform gender diversity into new opportunities for the user, and to lower the impact of gender bias flow into the society through the creation of a more inclusive companion. The thesis development explores the creation of a methodology able to help designers throughout the different process phases to identify and take action on personal creators’, companions’ and algorithm’s, and the final users’ gender bias to break the loop which binds and amplify them. The methodology develops through the analysis and creation of an additional tool based on the guidelines which define the design process phases where gender bias could arise: the team building, inspiration, ideation and implementation phase. The paper and digital tool have been tested together with design students as potential analysis and learning instrument inside design school. The testing feedback and thoughts were useful insights to implement and integrate the tool itself. The conclusion demonstrates that, with collaborative group dialogue and an analysis’ tool, it is possible to help designers to build awareness of the personal gender bias impact on the digital companion development process, transforming gender diversity into an implementation opportunity for the companion to represent final users gender diversity.

La mancata rappresentanza della donna nella costruzione di tecnologie iper-personalizzate, come i digital companion, così come nell’ideale di utente finale, ha portato ad una realizzazione di artefatti che creano esclusione di genere, amplificata da algoritmi sempre più rappresentativi di una cerchia di utenti che non rispecchia categorie sottorappresentate come le donne. Una delle cause è il pregiudizio di genere che esiste nella singola persona, nel gruppo di lavoro, nella società, in una cultura specifica. Se non accantonati, possono essere trasmessi al digital companion che tramite l’algoritmo, la forma e il funzionamento può amplificare i pregiudizi di genere della persona e del creatore e può trasmetterli all’utente finale tramite l’utilizzo dello stesso. Questa tesi indaga la possibilità del design di intervenire nel processo di progettazione dei digital companion per investigare, capire e superare i pregiudizi di genere del progettista affinché non vengano tramandati agli artefatti costruiti, per trasformare la diversità di genere in nuove opportunità per gli utenti e, tramite la creazione di un companion più inclusivo, appianare il flusso dei pregiudizi di genere nella società. Lo sviluppo della tesi esplora la creazione di una metodologia che possa aiutare il designer nelle diverse fasi del progetto ad individuare e agire sui pregiudizi del progettista, del companion e dell’algoritmo, e quelli dell’utente finale, per rompere il loop che li lega e li amplifica. Coinvolgendo diverse categorie di designer, la metodologia si sviluppa attraverso l’analisi e creazione di uno strumento integrativo al processo di design, basato su linee guida in grado di definire le fasi della progettazione in cui possono insorgere pregiudizi di genere: la fase di teambuilding, ispirazione, ideazione e implementazione. Lo strumento cartaceo e digitale è stato testato insieme a studenti, come potenziale strumento di analisi e apprendimento nelle scuole del design, da cui sono emersi feedback e considerazioni che sono state utili all’integrazione dello strumento. Le conclusioni dimostrano come, tramite un dialogo di gruppo collaborativo e uno strumento di analisi, si possa aiutare il designer a costruire una consapevolezza dell’impatto dei pregiudizi di genere personali sul processo di costruzione del digital companion, trasformando la diversità di genere in un’opportunità di implementazione del prodotto stesso per rappresentare le diversità di genere degli utenti finali.