Perception, learning and uncertainty-aware planning for robotic liquid manipulation

Robotic manipulation of liquids is challenging due to nonlinear and partially observable dynamics. In particular, transport and pouring operations require robust trajectories in presence of uncertainty about parameters, liquid properties and initial conditions. Furthermore, the gap between simulation and reality complicates the direct transfer of policies developed in a simulated environment to the physical system. This thesis proposes an algorithmic framework for robotic manipulation and pouring that combines perception, physical simulation, and adaptive planning with iterative belief updating. The method consists of three main modules: a vision system based on convolutional neural networks and point clouds for estimating the position of containers and the volume of liquid; two simulation environments characterized by a different compromise between physical accuracy and computational efficiency, one based on approximate analytical models and the other on high-fidelity physical simulation; a robust planning approach that generates candidate trajectories in simulation and iteratively updates parameters and actions, through Bayesian optimization and Thompson Sampling, using as feedback the real binary outcome of the execution. The problem is presented as structured planning in presence of uncertainty, avoiding to learn a global policy and preferring, instead, the progressive adaptation of actions through interaction with the real system. Indeed, each execution provides useful information to align simulated predictions with observed behavior, reducing progressively the sim-to-real gap with a limited number of real trials. Experimental results show that, even in presence of an approximate simulator, the proposed approach allows for robust behavior in liquid pouring, ensuring accuracy in reaching the target level and absence of spilling, without the need for a large number of iterations or complex offline models. Overall, the method is a practical solution for applications in industrial and collaborative contexts where real tests are expensive or limited and the available information is reduced.

La manipolazione robotica di liquidi rappresenta una sfida a causa delle dinamiche non lineari e parzialmente osservabili. In particolare, operazioni di trasporto e versamento richiedono traiettorie robuste in presenza di incertezza su parametri, su proprietà del liquido e condizioni iniziali. Inoltre, il divario tra simulazione e realtà complica il trasferimento diretto al sistema fisico di policy sviluppate in ambiente simulato. Questa tesi propone un framework algoritmico per la manipolazione e il pouring robotico che integra percezione, simulazione fisica e pianificazione adattativa con aggiornamento iterativo del belief. Il metodo si articola in tre moduli principali: un sistema di visione basato su reti neurali convoluzionali e point cloud per la stima della posizione dei contenitori e del volume del liquido; due ambienti di simulazione caratterizzati da un diverso compromesso tra accuratezza fisica ed efficienza computazionale, uno basato su modelli analitici approssimati e l'altro su simulazione fisica ad alta fedeltà; un approccio di pianificazione robusta che genera traiettorie candidate in simulazione e aggiorna iterativamente i parametri e le azioni, tramite ottimizzazione bayesiana e Thompson Sampling, utilizzando come feedback l’esito reale binario dell’esecuzione. Il problema viene formulato come pianificazione strutturata in presenza di incertezza, evitando l’apprendimento di una politica globale e privilegiando invece l’adattamento progressivo delle azioni attraverso l’interazione con il sistema reale. Infatti, ogni esecuzione fornisce informazioni utili per allineare le previsioni simulate al comportamento osservato, riducendo progressivamente il sim-to-real gap con un numero limitato di prove reali. I risultati sperimentali mostrano che, anche in presenza di un simulatore approssimato, l’approccio proposto consente di ottenere comportamenti robusti nel versamento di liquidi, garantendo accuratezza nel raggiungimento del livello target e assenza di fuoriuscite, senza ricorrere ad un numero elevato di iterazioni o a modelli complessi offline. Complessivamente, il metodo si presenta come una soluzione pratica per applicazioni in contesti industriali e collaborativi in cui i test reali sono costosi o limitati e l’informazione disponibile è ridotta.