Dynamic task allocation for proactive human-robot collaboration

Robotic agents have been introduced into human-populated environments during the past few decades as a result of the growing demand for flexible and re-configurable solutions in industrial and logistic scenarios. However, nowadays, collaborative robots (cobots) are still far from being extensively exploited and most of the industrial tasks are not fully automated. The creation of mixed human-robot teams not only improves the productivity and flexibility of an industrial process, but also improves safety for human workers. Robots can perform dangerous and repetitive tasks that would be hazardous for humans, preventing workers' injuries and reducing both physical and mental human workload. To fully exploit the teamed performance potential, agents need to share not only the place but also the goals, in the direction of a high-performance exploitation of agent's capabilities. This scenario opens up the problem of creating synergistic collaborations between human and robotic agents who share the same goal, by assigning different roles to the team members, with the aim of improving the efficiency and effectiveness of human-robot collaboration. This thesis aims to solve the multi-agent task allocation (MATA) problem for Human-Robot Collaboration (HRC) in industrial environments, such as manufacturing and logistics. In this context, the tasks that human-robot teams are asked to perform are complex and dynamic, requiring the agents to be able to adapt to changing conditions and make decisions on the fly. Moreover, the developed algorithms and strategies have to take into account not only the capabilities and limitations of each agent, but also ergonomics conditions of human workers to reduce the physical workload. Furthermore, the methods also have to consider the constraints of the task and the environment in which it is being performed. Most of the previous methodologies present limitations in these directions. Specifically, existing approaches present limited flexibility since they are designed for specific types of tasks and environments. Moreover, these algorithms do not account for changes in the availability or capabilities of agents, computing offline task allocation. Furthermore, humans preferences and ergonomics are not considered in the allocation computation. For these reasons, this thesis proposes two main methodologies to solve the MATA problem: passive and active task allocation. In passive task allocation algorithms, each individual agent (whether human or robot) is responsible for making decisions about its own actions. This means that there is no central authority or control mechanism that determines the roles of the agents. Instead, the roles of the agents are determined through local interactions and coordination between the agents. Hence, agents are able to adapt to changing conditions and unexpected events. In light of this, robotic adaptation to human motion, ergonomics and intentions is investigated. Specifically, a novel visuo-haptic interface that allows mobile collaborative robots to follow human instructions in a way understandable by non-experts is presented. Thanks to the tracking system, the cobot is able to adapt to the human motion, switching between the haptic guidance, that enables an individual to guide the robot end-effector in the workspace to reach and grasp arbitrary items, and the visual interface, that enables autonomous and continuous navigation of the mobile robot towards the human, avoiding static and dynamic obstacles along its path. In the same direction, a human-aware task planner based on Behavior Trees (BTs) is developed. The method generates robot plans for autonomous and human-robot cooperative tasks in industrial environments, minimizing the distance between the agents and the action to be carried out, and maximizing the performance, in terms of execution time, and human ergonomics. Active task allocation, instead, is responsible for determining the optimal assignment of tasks to one or more agents (in case of collaboration) in the team. This approach uses complete information about the capabilities and constraints of each agent, as well as the requirements of the tasks, to make online allocation decisions. In this regard, a method that integrates human ergonomics factors into the task allocation algorithm is proposed. The framework is composed by two main modules: an AND/OR Graph (AOG) task model that is modified to solve the allocation problem and an ergonomic risk assessment during task execution that updates the AOG-related variables for task assignment computation. However, due to the limitations imposed by the AOG structure, a novel dynamic method based on Behavior Trees (BTs) is presented. The approach integrates planning and allocation of actions features in a unique architecture. Thanks to the BT formulation, a single job is encoded as a compound of different tasks with temporal and logic constraints. Moreover, the allocation algorithms are defined as Mixed Integer Linear Programming problems (MILPs), that, according to the worker-actions related costs and the workers' availability, allocate the yet-to-execute tasks among the available workers. Finally, to improve the method and achieve a proactive Human-Robot Collaboration (HRC), a novel architecture for assigning roles and planning tasks in human-robot teams is developed. The architecture uses a centralized, reactive, and modular task-agnostic planning method based on Behavior Trees (BTs) for scheduling actions, while the allocation problem is solved using a Mixed Integer Linear Programming (MILP) approach that dynamically assigns individual roles or collaborations to the team members. The system considers human preferences through a negotiation phase in which the human workers can accept or reject the allocated task. Moreover, a custom Augmented Reality (AR) user interface enables bidirectional communication between humans and the system, and provides intuitive tools to assist and coordinate workers during different phases of the task.

Gli agenti robotici sono stati introdotti negli ambienti popolati dall'uomo durante gli ultimi decenni a seguito della crescente domanda di soluzioni flessibili e riconfigurabili in scenari industriali e logistici. Tuttavia, al giorno d'oggi, i robot collaborativi (cobots) sono ancora lontani dall'essere ampiamente sfruttati e la maggior parte dei compiti industriali non sono completamente automatizzati. La creazione di team misti di persone e robot non solo migliora la produttività e la flessibilità di un processo industriale, ma aumenta anche la sicurezza per i lavoratori umani. I robot possono svolgere compiti pericolosi e ripetitivi che sarebbero rischiosi per gli esseri umani, prevenendo lesioni ai lavoratori e riducendo sia il carico fisico che mentale per gli esseri umani. Per sfruttare appieno il potenziale di performance di team, gli agenti devono condividere non solo lo spazio ma anche gli obiettivi, nell'ottica di uno sfruttamento ad alta performance delle capacità degli agenti. Questo scenario apre il problema di creare collaborazioni sinergiche tra agenti umani e robotici che condividono lo stesso obiettivo, assegnando ruoli diversi ai membri del team, con l'obiettivo di migliorare l'efficienza e l'efficacia della collaborazione uomo-robot. Questa tesi si propone di risolvere il problema di allocazione multi-agente (MATA) per la Collaborazione Uomo-Robot (HRC) in ambienti industriali, come la produzione e la logistica. In questo contesto, i compiti che vengono richiesti ai team uomo-robot sono complessi e dinamici, richiedendo agli agenti di adattarsi alle condizioni mutevoli e prendere decisioni online. Inoltre, gli algoritmi e le strategie sviluppati devono tenere conto non solo delle capacità e dei limiti di ciascun agente, ma anche delle condizioni ergonomiche dei lavoratori umani per ridurre il carico fisico. Inoltre, i metodi devono anche considerare i vincoli del compito e dell'ambiente in cui viene eseguito. La maggior parte delle metodologie precedenti presenta limitazioni in queste direzioni. In particolare, gli approcci esistenti presentano una flessibilità limitata poiché sono progettati per tipi specifici di compiti e ambienti. Inoltre, questi algoritmi non tengono conto dei cambiamenti nella disponibilità o nelle capacità degli agenti, calcolando l'allocazione dei compiti offline. Per di più, le preferenze umane e l'ergonomia non vengono considerate nel calcolo dell'assegnazione. Per questi motivi, questa tesi propone due principali metodologie per risolvere il problema MATA: l'allocazione passiva e attiva dei compiti. Negli algoritmi di allocazione passiva dei compiti, ogni agente individuale (sia umano che robotico) è responsabile di prendere decisioni sulle proprie azioni. Ciò significa che non c'è un'autorità centrale o un meccanismo di controllo che determina i ruoli degli agenti. Infatti, i ruoli degli agenti sono determinati attraverso interazioni locali e coordinazione tra gli agenti stessi. Di conseguenza, gli agenti sono in grado di adattarsi alle condizioni mutevoli ed agli eventi imprevisti. In relazione a ciò, viene indagata l'adattabilità robotica al movimento umano, all'ergonomia e alle intenzioni. In particolare, viene presentata una nuova interfaccia visuo-aptica che consente ai robot collaborativi mobili di seguire le istruzioni umane in modo comprensibile anche per i non esperti. Grazie al sistema di tracciamento, il cobot è in grado di adattarsi al movimento umano, passando dalla guida aptica, che consente a un individuo di guidare l'end-effector del robot nello spazio di lavoro per raggiungere e afferrare oggetti arbitrari, all'interfaccia visiva, che consente la navigazione autonoma e continua del robot mobile verso l'essere umano, evitando ostacoli statici e dinamici lungo il percorso. Nella stessa direzione, viene sviluppato un pianificatore di compiti human-aware basato su Behavior Trees (BTs). Il metodo genera piani per robot autonomi e compiti di cooperazione uomo-robot in ambienti industriali, minimizzando la distanza tra gli agenti e l'azione da svolgere e massimizzando la performance in termini di tempo di esecuzione ed ergonomia umana. L'allocazione attiva dei compiti, invece, è responsabile di determinare l'assegnazione ottimale dei compiti a uno o più agenti (nel caso di collaborazione) nel team. Questo approccio utilizza informazioni complete sulle capacità e i vincoli di ciascun agente, oltre alle esigenze dei compiti, per prendere decisioni di allocazione online. A questo proposito, viene proposto un metodo che integra fattori ergonomici umani nell'algoritmo di assegnazione dei compiti. Il framework è composto da due moduli principali: un modello di compiti AND/OR Graph (AOG) modificato per risolvere il problema di allocazione e una valutazione del rischio ergonomico durante l'esecuzione del compito che aggiorna le variabili correlate all'AOG per il calcolo dell'assegnazione del compito. Tuttavia, a causa delle limitazioni imposte dalla struttura dell'AOG, viene presentato un nuovo metodo dinamico basato su Behavior Trees (BTs). L'approccio integra pianificazione e allocazione di azioni in un'architettura unica. Grazie alla formulazione del BT, un singolo lavoro viene codificato come un composto di diversi compiti con vincoli temporali e logici. Inoltre, gli algoritmi di allocazione sono definiti come problemi di programmazione lineare intera mista (MILP) che, in base ai costi delle azioni correlate ai lavoratori e alla disponibilità dei lavoratori, assegnano i compiti ancora da eseguire tra i lavoratori disponibili. Infine, per migliorare il metodo e ottenere una Collaborazione Uomo-Robot (HRC) proattiva, viene sviluppata una nuova architettura per assegnare ruoli e pianificare compiti nei team uomo-robot. L'architettura utilizza un metodo di pianificazione centralizzato, reattivo e modulare, indipendente dal compito, basato su Behavior Trees (BTs) per pianificare le azioni, mentre il problema di allocazione viene risolto utilizzando un approccio di Programmazione Lineare Intergera Mista (MILP) che assegna dinamicamente ruoli individuali o di collaborazione ai membri del team. Il sistema tiene conto delle preferenze umane attraverso una fase di negoziazione in cui i lavoratori umani possono accettare o rifiutare il compito assegnato. Inoltre, un'interfaccia utente personalizzata di Realtà Aumentata (AR) consente una comunicazione bidirezionale tra gli esseri umani e il sistema e fornisce strumenti intuitivi per assistere e coordinare i lavoratori durante le diverse fasi del compito.