Lately, there has been a growing awareness of the effects of bias in artificial intelligence (AI) systems. Although this recent interest has led to an increase in the number of investigations which discuss ethics in AI across the globe, the specific issue of gender bias has not been assessed yet. Therefore, the aim of this thesis was to investigate the current state of AI ethical guidelines issued within the European Union (EU) and to what extent gender bias is being addressed in these documents. To do so, ten guidelines issued by both EU institutions and member states were selected. The aforementioned documents were analysed using a framework form developed with the intention to find out if the guidelines addressed gender bias in the form of ethics by / in and for Design. The results revealed that Western European countries are more actively participating in the development of these documents than Eastern European nations. Nevertheless, most of the guidelines do not acknowledge gender bias as an issue itself but rather address discrimination. For this reason, most of the current available tools have been designed to prevent discrimination. Furthermore, the results exposed a lack of quantitative proof on the success of implementation methodologies, solutions’ effectiveness and on the evidence of companies’ consideration for feedback.

Ultimamente, c'è stata una crescente consapevolezza degli effetti del pregiudizio nell'intelligenza artificiale (AI) sistemi. Sebbene questo recente interesse abbia portato ad un aumento del numero di indagini che discutono di etica nell'IA in tutto il mondo, la questione specifica del pregiudizio di genere non è stata valutato ancora. Pertanto, lo scopo di questa tesi è stato quello di indagare lo stato attuale dell'IA ética linee guida emanate all'interno dell'Unione Europea (UE) e fino a che punto il pregiudizio di genere è in corso affrontato in questi documenti. A tal fine, dieci linee guida emanate dalle istituzioni dell'UE e stati membri sono stati selezionati. I suddetti documenti sono stati analizzati utilizzando a modulo quadro sviluppato con l'intento di scoprire se le linee guida si rivolgessero al genere pregiudizi sotto forma di etica da/in e per il Design. I risultati hanno rivelato che l'Europa occidentale i paesi stanno partecipando più attivamente allo sviluppo di questi documenti rispetto a Eastern nazioni europee. Tuttavia, la maggior parte delle linee guida non riconosce il pregiudizio di genere come un problema in sé, ma piuttosto affrontare la discriminazione. Per questo motivo, la maggior parte degli strumenti attualmente disponibili sono stati progettati per prevenire la discriminazione. Inoltre, i risultati hanno mostrato una mancanza di prove quantitative sul successo delle metodologie di implementazione, sull'efficacia delle soluzioni e sulla prova della considerazione delle aziende per il feedback.

Gender bias in artificial intelligence : an evaluation of guidelines

SANTANA GONZÁLEZ, ANA
2020/2021

Abstract

Lately, there has been a growing awareness of the effects of bias in artificial intelligence (AI) systems. Although this recent interest has led to an increase in the number of investigations which discuss ethics in AI across the globe, the specific issue of gender bias has not been assessed yet. Therefore, the aim of this thesis was to investigate the current state of AI ethical guidelines issued within the European Union (EU) and to what extent gender bias is being addressed in these documents. To do so, ten guidelines issued by both EU institutions and member states were selected. The aforementioned documents were analysed using a framework form developed with the intention to find out if the guidelines addressed gender bias in the form of ethics by / in and for Design. The results revealed that Western European countries are more actively participating in the development of these documents than Eastern European nations. Nevertheless, most of the guidelines do not acknowledge gender bias as an issue itself but rather address discrimination. For this reason, most of the current available tools have been designed to prevent discrimination. Furthermore, the results exposed a lack of quantitative proof on the success of implementation methodologies, solutions’ effectiveness and on the evidence of companies’ consideration for feedback.
ARC III - Scuola del Design
21-dic-2021
2020/2021
Ultimamente, c'è stata una crescente consapevolezza degli effetti del pregiudizio nell'intelligenza artificiale (AI) sistemi. Sebbene questo recente interesse abbia portato ad un aumento del numero di indagini che discutono di etica nell'IA in tutto il mondo, la questione specifica del pregiudizio di genere non è stata valutato ancora. Pertanto, lo scopo di questa tesi è stato quello di indagare lo stato attuale dell'IA ética linee guida emanate all'interno dell'Unione Europea (UE) e fino a che punto il pregiudizio di genere è in corso affrontato in questi documenti. A tal fine, dieci linee guida emanate dalle istituzioni dell'UE e stati membri sono stati selezionati. I suddetti documenti sono stati analizzati utilizzando a modulo quadro sviluppato con l'intento di scoprire se le linee guida si rivolgessero al genere pregiudizi sotto forma di etica da/in e per il Design. I risultati hanno rivelato che l'Europa occidentale i paesi stanno partecipando più attivamente allo sviluppo di questi documenti rispetto a Eastern nazioni europee. Tuttavia, la maggior parte delle linee guida non riconosce il pregiudizio di genere come un problema in sé, ma piuttosto affrontare la discriminazione. Per questo motivo, la maggior parte degli strumenti attualmente disponibili sono stati progettati per prevenire la discriminazione. Inoltre, i risultati hanno mostrato una mancanza di prove quantitative sul successo delle metodologie di implementazione, sull'efficacia delle soluzioni e sulla prova della considerazione delle aziende per il feedback.
File allegati
File Dimensione Formato  
AnaSantanaGonzález_936644.pdf

non accessibile

Descrizione: MSc Thesis - Gender Bias in Artificial Intelligence: An Evaluation of Guidelines
Dimensione 5.27 MB
Formato Adobe PDF
5.27 MB Adobe PDF   Visualizza/Apri

I documenti in POLITesi sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/10589/182488