The myth of neutrality: analisi di bias e stereotipi etnici nelle immagini generate dall'AI

In the digital age, artificial intelligence (AI) has revolutionized many aspects of our lives, providing innovative tools that transform how we interact with the world. Specifically, AI models applied to image generation, known as text-to-image AI, have opened new horizons in visual content creation, enabling the automatic generation of images from simple textual descriptions. However, this groundbreaking technology brings significant challenges, raising critical questions about AI's lack of neutrality. The study aims to investigate how generated images may reflect and perpetuate biases and stereotypes — focusing particularly on those related to ethnicity and skin color — contradicting the common perception of AI as impartial and objective. The thesis is divided into two main sections: an initial theoretical research phase, which explores through literature and case studies how biases and stereotypes are embedded in image generation models, and a project phase, which includes an empirical analysis conducted on a sample of generated images. The research questions that guided this second phase are as follows: • How diverse and representative of ethnic heterogeneity are the images generated by AI? • What skin colors are associated with certain professions, adjectives, and criminality? • What is the most effective way to disclose the results of the analysis to a broad audience? In response to this last question, the findings of the study were made available through the design of a website, with the aim of making the results accessible to a wider audience and soliciting reflection on these critical issues. This approach aims to broaden the debate on biases and stereotypes in AI, often confined to academic settings, and provide insights into how AI shapes and reflects ethnic perceptions in the digital society.

Nell’era digitale, l’intelligenza artificiale (AI) ha rivoluzionato numerosi ambiti della nostra vita, offrendo strumenti innovativi che trasformano il modo in cui interagiamo con il mondo. In particolare, i modelli di AI applicati alla generazione di immagini, conosciuti come text-to-image AI, hanno aperto nuovi orizzonti nella creazione di contenuti visivi, permettendo la generazione automatica di immagini a partire da semplici descrizioni testuali. Tuttavia, questa rivoluzionaria tecnologia porta con sé sfide significative, sollevando interrogativi critici sulla non neutralità dell’AI. Lo studio si pone quindi come obiettivo quello di indagare come le immagini generate possano riflettere e perpetuare bias e stereotipi — focalizzandosi in particolare su quelli relativi alle etnie e al colore della pelle — contraddicendo la comune concezione di un’intelligenza artificiale imparziale e obiettiva. La tesi si articola in due sezioni principali: una prima fase di ricerca teorica, che indaga — attraverso letteratura e case studies — come bias e stereotipi siano incorporati nei modelli di generazione delle immagini, e una fase progettuale, che presenta un’analisi empirica svolta su un campione di immagini generate. Le domande di ricerca che hanno guidato questa seconda fase sono le seguenti: Quanto sono varie e rappresentative della diversità etnica le immagini generate dall’AI? Quali colori della pelle vengono associati a determinate professioni, aggettivi e criminalità? Qual è il modo più efficace per divulgare i risultati dell’analisi a un pubblico esteso? In risposta a quest’ultimo quesito, quanto emerso dall’indagine è stato reso fruibile tramite la progettazione di un sito web, con l’obiettivo di rendere i risultati accessibili ad una platea più ampia e sollecitare una riflessione su questi temi critici. Questo approccio mira ad ampliare il dibattito su bias e stereotipi nell’AI, spesso circoscritto agli ambienti accademici, e fornire un contributo alla comprensione di come l’AI modella e riflette le percezioni etniche nella società digitale.