Exploring gender ambiguous voices in voice assistants to address and avoid gender bias

AI has grown rapidly in recent years, significantly impacting productivity and societal interactions. However, persistent gender disparities characterize its development. The AI field remains predominantly male, with women constituting only 12% of researchers. This imbalance fosters biases and reinforces stereotypes, especially in voice technologies, where traditionally feminine voices are the norm. This thesis investigates the role of gender in AI voice interfaces, specifically examining ambiguous versus gender-specific voices. It starts with a historical review of gender in AI, then explores user interactions with voice assistants. A literature review of major works from the past thirty years on VAs and service robots supports an empirical study into user biases related to gender representation in these technologies. The research aims to understand how users perceive gender ambiguous voices and whether such voices can effectively address gender bias and stereotypes. The study focuses on ethical AI design, emphasizing the reduction of biases and enhancement of human values. It explores whether gender neutral or ambiguous voices can mitigate biases and promote fairness. The findings highlight several design considerations. They raise important questions about the stability of gender perceptions in voice design, suggesting a need for further research into cultural and social influences. The study underscores the importance of a holistic design approach, where auditory and visual elements work together to create an inclusive experience. Additionally, the research stresses the need for continuous user feedback and A/B testing across diverse demographics. While gender ambiguous voices can help reduce bias, achieving true gender neutrality in voice design is complex. An iterative process informed by real user feedback is crucial for developing more inclusive and user-friendly technologies. In conclusion, a holistic approach integrating auditory, visual, and contextual elements is essential for fostering a more inclusive user experience.

L'intelligenza artificiale è cresciuta rapidamente negli ultimi anni, influenzando significativamente la produttività e le interazioni sociali. Tuttavia, persistono disparità di genere che caratterizzano il suo sviluppo. Il campo dell'IA rimane prevalentemente maschile, con le donne che costituiscono solo il 12% dei ricercatori. Questo squilibrio favorisce pregiudizi e rafforza stereotipi, soprattutto nelle tecnologie vocali, dove le voci tradizionalmente femminili sono la norma. Questa tesi indaga il ruolo del genere nelle interfacce vocali, esaminando specificamente le voci ambigue rispetto a quelle di genere maschile o femminile. Inizia con una panoramica storica del genere nell'IA, per poi esplorare le interazioni degli utenti con gli assistenti vocali. La literature review dei principali lavori degli ultimi trent'anni su assistenti vocali e service robot supporta uno studio empirico sui pregiudizi degli utenti relativi alla rappresentazione di genere in queste tecnologie. La ricerca si propone di capire come gli utenti percepiscono le voci ambigue rispetto al genere e se tali voci possono affrontare efficacemente i pregiudizi e gli stereotipi di genere. Lo studio si concentra sul design etico dell'IA, enfatizzando la riduzione dei pregiudizi e l’accrescimento dei valori umani. L’obiettivo è esplora se le voci neutrali o ambigue rispetto alle voci di genere possano mitigare i pregiudizi e promuovere equità. I risultati evidenziano diverse considerazioni progettuali. Sollevano domande importanti sulla stabilità delle percezioni di genere nel design delle voci, suggerendo la necessità di ulteriori ricerche sulle influenze culturali e sociali. Lo studio sottolinea l'importanza di un approccio di design olistico, in cui elementi uditivi e visivi lavorano insieme per creare un'esperienza inclusiva. Inoltre, la ricerca enfatizza la necessità di un continuo feedback degli utenti e di test A/B su demografie diverse. Sebbene le voci neutre rispetto al genere possano aiutare a ridurre i pregiudizi, raggiungere una vera neutralità di genere nel design delle voci è complesso. Un processo iterativo informato da feedback veri e propri da parte degli utenti è cruciale per sviluppare tecnologie più inclusive e user-friendly. In conclusione, un approccio olistico che integri elementi uditivi, visivi e contestuali è essenziale per favorire un'esperienza utente più inclusiva.