From principles to practice : an ethically aligned project management software

The limited operational experience we have with last-generation autonomous systems raises a variety of moral questions on human freedom, autonomy, privacy, responsibility, and well-being. The debate around the ethical issues of technology is proceeding at a fast pace, but the proposed solutions often take the form of high-level recommendations that lack practical implementation details. In this thesis, we face the challenge of addressing the ethical issues of technology operatively by building an ethical framework which comprises an ethically aligned project management software. We start by reviewing the most recent proposals for the ethical development of technology and focus on the perspective given by the ethicist Ibo van de Poel. By virtue of their focus on the unpredictability characterizing new technologies, we select van de Poel's ethical conditions for experimental technology as the starting point for our ethical framework. In this context, we develop an ethical management software that promotes and safeguards the moral values of beneficence, non-maleficence, respect for autonomy, and justice. To succeed in our intent of building a practical solution, we transpose van de Poel’s ethical conditions in the domain of the i.Drive laboratory of Politecnico di Milano. The highly applicative nature of the research activity of the laboratory, together with the participation of experimental human subjects, make the laboratory a perfect setting to reach our objective of addressing operatively the ethical issues of technology in a management software.

La limitata esperienza operativa che caratterizza il nostro rapporto con i sistemi autonomi di ultima generazione solleva una molteplicità di questioni morali su libertà, autonomia, privacy, responsabilità e benessere umano. Il dibattito intorno ai problemi etici della tecnologia procede con gran fermento, ma le soluzioni proposte spesso assumono la forma di raccomandazioni di alto livello che mancano di dettagli implementativi pratici. In questa tesi, affrontiamo operativamente i problemi etici della tecnologia attraverso la progettazione di un framework etico che delinea un software di project management ethically aligned. Iniziamo esaminando le più recenti proposte in tema di sviluppo etico della tecnologia e ci concentriamo sulla prospettiva fornita dall’eticista Ibo van de Poel. Considerando l’attenzione posta dal filosofo sull’imprevedibilità che caratterizza le nuove tecnologie, selezioniamo la sua proposta di condizioni etiche per le tecnologie sperimentali come punto di partenza per il nostro framework etico. In questa ottica, sviluppiamo un software di project management che promuove e salvaguarda i valori di beneficenza, non malevolenza, rispetto per autonomia e giustizia. Per riuscire nel nostro intento di progettare una soluzione pratica, contestualizziamo le condizioni etiche proposte da van de Poel nel dominio del laboratorio i.Drive del Politecnico di Milano. La natura altamente applicativa del laboratorio, insieme al coinvolgimento di soggetti sperimentali umani, rendono il laboratorio il contesto ideale per raggiungere il nostro obiettivo di affrontare operativamente i problemi etici della tecnologia.