Designing with Hybrid Intelligence: AI integration in participatory practices : impacts on design roles, processes, and business innovation projects

This thesis analyses the role of artificial intelligence (AI) in participatory processes. The research aims to understand how AI influences and impacts designers and design activities and which role generative artificial intelligence (Gen AI) can potentially have in participatory processes focused on business innovation (BI). AI, specifically Gen AI, is becoming increasingly relevant in the design world, significantly impacting the design artefacts and the role of designers, shifting from problem-solvers to sense-makers. This shift becomes particularly relevant when these technologies are used as tools for solving complex, social, and human-centred challenges, such as those usually tackled with participatory design practices for BI. Recent studies introduce the concept of Hybrid Intelligence (HI) as an emerging paradigm in the design of systems that facilitate the collaboration between humans and AI. However, there’s still a gap in understanding whether and how Gen AI tools can support co-design processes, particularly when the technology is used as a member of the design team for the ideation and creation of co-designs, the creation of Boundary Objects (BO) or as the BO itself. The research methodology integrates a literature review, a critical analysis of existing literature studies, a quantitative survey, expert interviews, and the practical experimentation in two applied contexts. The initial background research phase explores the evolution, technical specifications, and tools of AI and Gen AI, focusing on their potential and their social, ethical, and environmental implications. Following, the service design and participatory practices are analysed, focusing on the designer's critical role and the fundamental use of BO. Next, the role of these participatory practices in BI contexts is inquired. Finally, the impact of Gen AI in the field of service design is examined, highlighting the transformation of the role of the service designer and the renowned models, processes, and tools of the discipline. The research follows two main strands of AI application in participatory processes, (I) the case in which it assumes the role of a collaborative actor within the design team, and (II) when AI is employed directly as a BO by participants. The analysis of the literature studies (e.g. “DesignGPT: Multi-agent collaboration in design” by Ding, S. et al., 2023, and “From Fake Perfects to Conversational Imperfects: Exploring Image-Generative AI as a Boundary Object for Participatory Design of Public Spaces” by Guridi, J. A., et al., 2024), together with the data collected through surveys and interviews provides useful insights into the current use of Gen AI in participatory design practices, allowing the identification of recurring patterns and critical issues. The two field experimentations, integrated within the project “Osmosi. Observation and Study of Design and Development Models of hybrid Spaces, places of urban experimentation and social Inclusion through creative and cultural activities” by Desis Lab at the Politecnico di Milano, and a workshop on BMI with a set of designers with different backgrounds, allows to gain real-world empirical insights on the use of a Gen AI tool, ChatGPT, in applied contexts. Results highlight how AI, if designed as a HI and used critically and contextually, can enhance participatory processes for BI in terms of idea generation, conceptual clarification, and inclusion of non-expert stakeholders. However, numerous critical issues emerge, related to privacy, trust, transparency, cognitive costs, and the fragmentation of currently available tools. Based on the insights that have emerged, the thesis contributes to the ongoing research in two ways. First of all, by proposing the evolving archetype of the designer, that shifts from being an explorer to an orchestrator. Secondly, six design strategies, materialised in the “Hybrid intelligence co-design kit”, are proposed for the effective integration of an HI system into participatory practices for BI: ubiquity, integration, adaptability, transparency, accessibility, and competence. This research contributes to the ongoing debate on human-AI collaboration in design by exploring opportunities and challenges related to Gen AI integration into participatory design practices for BI, either as a member of the design teams or as BO.

Questa tesi analizza il ruolo dell'intelligenza artificiale (IA) nei processi partecipativi. La ricerca mira a comprendere in che modo l'IA influenza e incide sui designer e sulle attività di progettazione e quale ruolo possa potenzialmente avere l'intelligenza artificiale generativa (Gen AI) nei processi partecipativi incentrati sulla ‘business innovation’ (BI). L'IA, in particolare la Gen IA, sta diventando sempre più rilevante nel mondo del design, influenzando in modo significativo sia gli artefatti che il ruolo dei designer, che evolve da problem-solver a sense-maker. Questo cambiamento diventa particolarmente rilevante quando queste tecnologie vengono utilizzate come strumenti per risolvere sfide complesse, sociali e incentrate sull'uomo, come quelle che vengono solitamente affrontate con pratiche di progettazione partecipativa per la BI. Recenti studi introducono il concetto di intelligenza ibrida come paradigma emergente nella progettazione di sistemi che facilitano la collaborazione tra esseri umani e IA. Tuttavia, c'è ancora un divario nella comprensione di se e come gli strumenti Gen AI possano supportare i processi di co-progettazione, in particolare quando la tecnologia viene utilizzata come membro del team progettuale per l'ideazione di co-design, la creazione di Boundary Object (BO) o come BO stesso. La metodologia di ricerca integra una revisione della letteratura, un'analisi critica di studi esistenti, un questionario quantitativo, interviste ad esperti e la sperimentazione pratica in due contesti applicati. La fase iniziale di ricerca esplora l'evoluzione, le specifiche tecniche dell'IA e della Gen AI, focalizzandosi sul loro potenziale e sulle loro implicazioni sociali, etiche e ambientali. Successivamente, vengono analizzate le pratiche del service design e del design partecipativo, concentrandosi sul ruolo del progettista e sull'uso dei BO. Successivamente, viene esaminato il ruolo di queste pratiche partecipative nei contesti BI. Infine, viene considerato l'impatto della Gen AI sul service design, evidenziando la trasformazione del ruolo del designer e dei modelli, dei processi e degli strumenti rinomati della disciplina. La tesi segue due filoni principali di ricerca sulla possibile integrazione dell’IA nei processi partecipativi: (I) il caso in cui assume il ruolo di attore collaborativo all'interno del team di progettazione e (II) quello in cui viene impiegata direttamente come BO dai partecipanti. L'analisi degli studi di letteratura (tra cui “DesignGPT: Multi-agent collaboration in design” di Ding, S. et al., 2023, e “From Fake Perfects to Conversational Imperfects: Exploring Image-Generative AI as a Boundary Object for Participatory Design of Public Spaces” di Guridi, J. A., et al., 2024), insieme ai dati raccolti attraverso il questionario e le interviste, fornisce utili insights sull'uso attuale della Gen IA nelle pratiche di progettazione partecipativa, consentendo l'identificazione di pattern ricorrenti e questioni critiche. Le due sperimentazioni sul campo, integrate nel progetto “Osmosi. Observation and Study of Design and Development Models of hybrid Spaces, places of urban experimentation and social Inclusion through creative and cultural activities” del Desis Lab del Politecnico di Milano, e un workshop sulla BI con un gruppo di designer con background diversi, consentono di ottenere informazioni empiriche reali sull'uso di uno strumento di IA generativa, ChatGPT, in contesti applicati. I risultati evidenziano come l'IA, se integrata come un’intelligenza ibrida e utilizzata in modo critico e contestualizzato, possa migliorare i processi partecipativi in termini di generazione di idee, chiarimento concettuale e inclusione nel processo progettuale di stakeholder non esperti. Tuttavia, emergono numerose questioni critiche relative alla fiducia, alla trasparenza, ai costi cognitivi e alla frammentazione degli strumenti di IA attualmente disponibili. Sulla base degli insight emersi, la tesi propone due contributi. In primo luogo, viene introdotto l'archetipo in evoluzione del designer, che passa dall'essere un esploratore a un orchestratore. In secondo luogo, vengono proposte sei strategie di progettazione, materializzate nel “Hybrid intelligence co-design kit”, per l'integrazione efficace di sistemi di intelligenza ibrida nelle pratiche partecipative: ubiquità, integrazione, adattabilità, trasparenza, accessibilità e competenza. Questa ricerca contribuisce al dibattito in corso sulla collaborazione uomo-IA nel design esplorando le opportunità e le sfide legate all'integrazione dell'IA generativa nelle pratiche di design partecipativo per la BI, sia come membro dei team di progettazione che come BO.