Planning safely and efficiently in autonomous driving by exploiting model-based and data-driven prediction

Safety is a key requirement in motion planning for autonomous driving, due to the involvement of human beings. In the existing literature, we can distinguish two primary paradigms to ensure safety: robust and probabilistic. Robust approaches typically employ formal methods to provide safety assurances in all possible scenarios. Probabilistic approaches, on the other hand, exploit the recent advances in data-driven models and Artificial Intelligence (AI) to handle uncertainties in dynamic environments through the prediction of the likely behavior of the traffic participants and statistical reasoning. In this work, we contribute to both Backward Reachability Analysis (BRA), a robust method, and trajectory forecasting, a probabilistic method. We extend backward reachability analysis to multi-agent scenes, by introducing a prioritization method that classifies agents according to their dangerousness. The corresponding safety constraints are injected into a Model Predictive Control (MPC) planner that prioritizes the surrounding agents accordingly. Regarding trajectory forecasting, we bridge the representational gap between existing prediction models and safe planning. In prediction, numerical tractability is usually achieved by coarsely discretizing time, and by representing multimodal multi-agent interactions as distributions with infinite support. On the other hand, safe planning typically requires very fine time discretization, paired with distributions with compact support. We propose ZAPP, a framework to align prediction and planning, preserving real-time performance. Probabilistic methods for prediction and planning offer better scalability. The latest prediction-planning models are ever more based on Deep Learning (DL) and Generative Artificial Intelligence (Gen-AI), which follow probabilistic modeling. This setting also favors the introduction of foundation models, one of the latest and most promising trends, into prediction and planning schemes. However, advances in data-driven prediction and planning models introduce new challenges in cybersecurity. Specifically, the ability to predict interactions from data can be exploited to launch specific cyberattacks that we name interaction attacks. Given the ability of AI prediction models to probabilistically learn the causality between actions and reactions of the traffic agents, cyberattacks leverage it to manipulate the behavior of autonomous systems through deception, posing significant risks that need to be addressed.

La sicurezza è un requisito fondamentale nella pianificazione del movimento per la guida autonoma, a causa del coinvolgimento di esseri umani. In letteratura, possiamo distinguere due paradigmi principali per garantire la sicurezza: robusto e probabilistico. Gli approcci robusti tipicamente impiegano metodi formali per fornire garanzie di sicurezza in ogni possibile scenario. Gli approcci probabilistici, invece, sfruttano i recenti progressi nei modelli basati sui dati e nell'Intelligenza Artificiale (AI) per trattare l'incertezza di ambienti dinamici attraverso la previsione del comportamento probabile dei partecipanti al traffico e il ragionamento statistico. In questo lavoro, contribuiamo sia alla Backward Reachability Analysis (BRA), un metodo robusto, sia alla previsione delle traiettorie, un metodo probabilistico. Estendiamo la BRA a scenari multi-agente, introducendo un metodo di prioritizzazione che classifica gli agenti in base alla loro pericolosità. I corrispondenti vincoli di sicurezza vengono poi inseriti in un pianificatore basato su Model Predictive Control (MPC), che assegna priorità agli agenti circostanti di conseguenza. Per quanto riguarda la previsione delle traiettorie, colmiamo il divario di rappresentazione tra i modelli di previsione esistenti e la pianificazione sicura. Nei modelli predittivi, la trattabilità numerica è generalmente ottenuta attraverso una discretizzazione temporale grossolana e rappresentando le interazioni multimodali tra agenti come distribuzioni con supporto infinito. D’altra parte, la pianificazione sicura richiede tipicamente una discretizzazione temporale molto fine, abbinata a distribuzioni con supporto compatto. Proponiamo ZAPP, un framework per allineare previsione e pianificazione, preservando le prestazioni in tempo reale. I metodi probabilistici per la previsione e la pianificazione offrono una migliore scalabilità. I modelli più recenti di previsione-pianificazione si basano sempre più sul Deep Learning (DL) e sull’Intelligenza Artificiale Generativa (Gen-AI), che adottano un approccio probabilistico. Questo contesto favorisce anche l’introduzione dei foundation models, una delle tendenze più recenti e promettenti, nei sistemi di previsione e pianificazione. Tuttavia, i progressi nei modelli predittivi e pianificatori basati sui dati introducono nuove sfide in materia di cybersecurity. In particolare, la capacità di prevedere le interazioni a partire dai dati può essere sfruttata per lanciare specifici attacchi informatici, che chiamiamo attacchi di interazione. Dato che i modelli predittivi basati sull’AI sono in grado di apprendere in modo probabilistico la causalità tra le azioni e le reazioni dei partecipanti al traffico, questi attacchi informatici sfruttano tale capacità per manipolare il comportamento dei sistemi autonomi attraverso l’inganno, ponendo rischi significativi che devono essere affrontati.