Tacit: an exploratory study of the intersection between ethics as a service, design and ethical decision making in AI startups

This thesis aims to identify the challenges faced by early-stage artificial intelligence (AI) startups in integrating ethical decision-making by observing three groups of people; startup team members, ethicists and designers. The research focuses on the context of Norway, where significant investments in research and development are directed towards the research and development of AI and have contributed to the rapid advancements in artificial intelligence (AI). Consequently, a growing gap has emerged between AI development and regulation. Even if this is not exclusively happening in Norway, this country has been taking proactive steps to address this gap by promoting ethics as a service. However, this research found that startup members still prioritize business aspects over ethics because ethics is perceived as something extra that adds a layer of complexity to their process or another aspect to worry about instead of an integrated part of their way of operating. Since startups are still defining processes and their overall business, they make decisions using common sense and intuition. The thesis emphasizes the need for assistance in implementing ethical thinking through transdisciplinary collaboration, awareness, and providing startups with expert advice. Tacit is a proposal for an initiative that engages startup team members in conversations with ethics practitioners from different backgrounds to develop the “intuition muscles” for ethical decision-making. However, the research acknowledges limitations, such as the prioritization of values that changes from company to company, that there is no positive response towards ethics from the startup side even though the topic of AI ethics has increased in popularity in the past year. The service proposal has yet to be tested. Another limitation is that each startup ecosystem has different access to experts, so it is necessary to conduct new research to identify the pains and enablers of applying ethics in different geographical contexts. By providing insights into the challenges and opportunities of implementing ethical decision-making in AI startups with a transdisciplinary approach, startups will better integrate ethical decision-making into their way of operating. They will know when and how to ask for help from ethics practitioners.

Lo scopo di questa tesi é di identificare le sfide affrontate dalle startup di intelligenza artificiale (AI) in fase iniziale nell’integrare ethical decision-making, osservando tre gruppi di persone: membri del team di startup, professionisti di etica e designer. La ricerca si concentra sul contesto della Norvegia, dove vi sono notevoli investimenti in ricerca e sviluppo sono diretti verso l’IA e hanno contribuito ai rapidi progressi nell’intelligenza artificiale. Di conseguenza, si sta creando un crescente divario tra lo sviluppo dell’intelligenza artificiale e la sua regolamentazione. Anche se questo sta accadendo esclusivamente in Norvegia, il paese ha intrapreso misure proattive per affrontare questa disparità promuovendo l’etica come servizio. Tuttavia, questa ricerca ha riscontrato che i membri delle startup ancora danno priorità agli aspetti commerciali rispetto all’etica, poiché l’etica viene percepita come qualcosa di extra che aggiunge un livello di complessità al loro processo o un altro aspetto di cui preoccuparsi, invece che come parte integrante del loro modo di operare. Poiché le startup stanno ancora definendo i processi e il loro business generale, prendono decisioni basate sul buon senso e sull’intuizione. La tesi sottolinea la necessità di assistenza nell’implementazione del pensiero etico attraverso la collaborazione transdisciplinare, il awareness e la fornitura di consulenze specializzate alle startup. Tacit è una proposta per un’iniziativa che coinvolge i membri del team di startup in conversazioni con esperti di etica provenienti da diverse discipline per sviluppare le “abilità intuitive” per la presa di decisioni etiche. Tuttavia, la ricerca riconosce alcune limitazioni, come la prioritizzazione dei valori che varia da azienda a azienda, il fatto che non ci sia una risposta positiva verso l’etica dal lato delle startup, nonostante l’argomento dell’etica nell’IA sia aumentato di popolarità nell’ultimo anno. La proposta di servizio deve ancora essere testata. Un’altra limitazione è che ogni ecosistema di startup ha un diverso accesso a esperti, quindi è necessario condurre nuove ricerche per identificare i problemi e gli abilitanti dell’applicazione dell’etica in diversi contesti geografici. Fornendo spunti sulle sfide e opportunità nell’implementazione della presa di decisioni etiche nelle startup di IA con un approccio transdisciplinare, le startup integreranno meglio la presa di decisioni etiche nel loro modo di operare. Sapranno quando e come chiedere aiuto agli esperti di etica.