Blurring the divide: an integrative framework for designer-AI collaboration

This thesis explores the transformative impact of Artificial Intelligence (AI) on design, focusing on the collaborative development of ethically responsible AI systems. Utilizing a Research-through-Design methodology, the study investigates 15 distinct experiences to gain a personal experiential, which, although limited, gives an understanding to the designer-researcher of AI’s influence on design processes, principles, frameworks, and the evolving roles of designers in the context of human-AI collaboration. The findings reveal that responsible AI is crucial in design, as it supports Design Thinking’s core principles and enables designers to overcome limitations in scale, scope, and learning (Verganti, 2020). This leads to more user-centered, creative, and adaptive solutions (Jasanoff, 2016). AI significantly reshapes design practices by automating problem-solving tasks within learning loops operating at unparalleled speeds and volumes (Trajtenberg, 2018). As a result, human designers shift from creative problem solvers to sense makers, responsible for identifying and prioritizing valuable problems to address while ensuring ethical AI integration (Crawford & Whittaker, 2016). Considering these changes, the thesis proposes a novel framework for design practice in the AI era, emphasizing effective human-AI collaboration and addressing concerns and challenges in sustainable design (Saran et al., 2018; Liu et al., 2020). By embracing AI’s capabilities and redefining their roles as sense makers, designers can push the boundaries of creativity and human-centered design, fostering a more inclusive and innovative future (Veale, 2020). This study serves as a reflection for designers to explore new possibilities and offers valuable insights for design-driven organizations. Additionally, it addresses the concept of citizen-designer-community relationships and the role of design in supporting Agenda 2030 and the Sustainable Development Goals (Ulnicane et al., 2020, 2021). Drawing on critical resources, this thesis highlights the importance of democratizing AI development and deployment processes to ensure a more societally oriented AI (Misuraca & Van Noordt, 2020; Wilson, 2022). It emphasizes the need for greater civil society participation, diverse stakeholder inclusion, and participatory mechanisms in AI governance (De Schutter & Lenoble, 2010). By examining AI’s political and ethical dimensions, this study underscores the significance of human agency and the democratization of political imagination (Jasanoff, 2016) in fostering responsible AI systems that prioritize the needs of end-users and citizens (Veale, 2020).

La tesi esplora l’impatto trasformativo dell’Intelligenza Artificiale (IA) sul design, concentrandosi sullo sviluppo collaborativo di sistemi IA eticamente responsabili. Utilizzando una metodologia di Ricerca attraverso il Design, lo studio indaga 15 esperienze distinte per ottenere un’esperienza personale, che, sebbene limitata, fornisce al designer-ricercatore una comprensione dell’influenza dell’IA sui processi di design, sui principi, sui framework e sui ruoli in evoluzione dei designer nel contesto della collaborazione uomo-IA. La ricerca supporta lo sviluppo dell’IA responsabile nel contesto di design, poiché si basa sui principi chiave del Design Thinking e permette ai designer di superare limiti in termini di scala, portata e apprendimento (Verganti, 2020). Questo porta a soluzioni più incentrate sull’utente, creative e adattive (Jasanoff, 2016). L’IA modifica significativamente le pratiche di design automatizzando le attività di risoluzione dei problemi all’interno dei cicli di apprendimento che operano a velocità e volumi senza precedenti (Trajtenberg, 2018). Di conseguenza, i designer passano dal ruolo di risolutori di problemi creativi a quello di creatori di senso, responsabili dell’identificazione e della priorità dei problemi di valore da affrontare, garantendo al tempo stesso l’integrazione etica dell’IA (Crawford & Whittaker, 2016). Considerando questi cambiamenti, la tesi propone un nuovo framework per la pratica del design nell’era dell’IA, mettendo l’accento sulla collaborazione efficace tra uomo e IA e affrontando preoccupazioni e sfide nel design sostenibile (Saran et al., 2018; Liu et al., 2020). Abbracciando le capacità dell’IA e ridefinendo i loro ruoli come creatori di senso, i designer possono spingere i limiti della creatività e del design centrato sull’uomo, promuovendo un futuro più inclusivo e innovativo (Veale, 2020). Questo studio serve come riflessione per i designer per esplorare nuove possibilità e offre preziose intuizioni per le organizzazioni guidate dal design. Inoltre, affronta il concetto di relazioni tra designer-cittadino-comunità e il ruolo del design nel sostenere l’Agenda 2030 e gli Obiettivi di Sviluppo Sostenibile (Ulnicane et al., 2020, 2021). Attingendo a risorse critiche, questa tesi evidenzia l’importanza della democratizzazione dei processi di sviluppo e implementazione dell’IA per garantire un’IA più orientata alla società (Misuraca & Van Noordt, 2020; Wilson, 2022). Sottolinea la necessità di una maggiore partecipazione della società civile, l’inclusione di stakeholder diversificati e meccanismi partecipativi nella governance dell’IA (De Schutter & Lenoble, 2010). Esaminando le dimensioni politiche ed etiche dell’IA, questo studio sottolinea l’importanza dell’agire umano e della democratizzazione dell’immaginazione politica (Jasanoff, 2016) nel promuovere sistemi IA responsabili che privilegiano le esigenze degli utenti finali e dei cittadini (Veale, 2020).