Advanced deep learning methods for anomaly detection in point clouds

Thanks to the increased diffusion of sensors such as LiDARs, in recent years we have witnessed the rise of a peculiar type of data: point clouds. The reasons behind such success are to be found in their nature; in fact, a point cloud is constituted by a set of points to which can be associated some features. From this, it follows that they represent a compact and very convenient way to depict the surface of a 3D object. More precisely, it is possible to sample a point cloud from a three dimensional surface, hence, in so doing, the spatial arrangement of the obtained points can be used to describe the original shape. In consideration of the above, there has been a flourishing literature of deep learning methods, with many models that have been proposed for the classification and the segmentation task. However, to our concern, we have noticed that anomaly detection is a much more disregarded field. In this work, we aim therefore to address the unsupervised anomaly detection task on point clouds. To do so, we have developed two different methods. In particular, we propose an extension of the Deep Robust One Class Classification method by adopting a suitable network and introducing an adapted version of the original loss. Besides it, we propose a model for point cloud anomaly detection inspired by NeuTraL and composed of a pre-trained feature extractor, a set of learnable transformations, and an encoder. We have evaluated the performance of both of our methods by conducting several experiments on the ShapeNet and ModelNet datasets. Our DROCC method for point cloud anomaly detection proved to be on par with some other similar ones. Furthermore, our Neural Transformation Learning model achieved impressive performance on both datasets, outperforming every other considered method by a large margin. On some classes it even approaches the perfect classifier, making register values of AUC astoundingly close to 1.

Grazie allo sviluppo di sensori come i LiDAR, negli ultimi anni abbiamo assistito a una crescente diffusione di un particolare tipo di dati: le Point Cloud. Le ragioni dietro a tale successo sono da ricercare nella loro natura. Infatti, esse sono costituite da un insieme di punti ai quali possono essere associate delle features, come ad esempio i colori. Per questo motivo esse rappresentano un modo molto compatto ed efficace di rappresentare la superficie di un oggetto 3D. Più precisamente, è possibile campionare dei punti da una superficie tridimensionale e le coordinate dei punti ottenuti possono essere impiegate per descriverne la forma. In conseguenza di ciò, si è sviluppata una fiorente letteratura di metodi di deep learning, con innumerevoli modelli che sono stati proposti per trattare il tema della classificazione e della segmentazione. Tuttavia, abbiamo notato che l’ambito del rilevamento della anomalie è stato molto meno considerato. In questo lavoro ci siamo quindi posti l’obiettivo di affrontare il problema dell’Unsupervised Anomaly Detection per point clouds. A questo fine abbiamo sviluppato due diversi metodi. Il primo si tratta di una estensione dell’approccio Deep Robust One Class Classification nel quale abbiamo adottato una rete apposita e abbiamo introdotto una versione modificata della loss originale. Oltre a ciò, abbiamo proposto un modello per l’anomaly detection per point cloud che trae ispirazione da NeuTraL e che è composto da un feature extractor pre-addestrato, un insieme di trasformazioni apprendibili e da un encoder. Al fine di valutare le prestazioni dei nostri metodi, abbiamo condotto svariati esperimenti usando come datasets ShapeNet e ModelNet. Il nostro metodo DROCC per point cloud si è dimostrato essere sullo stesso livello di altri metodi simili. D'altro canto, il nostro modello di Neural Transformation Learning ha raggiunto dei risultati impressionanti su entrambi i dataset, migliorando considerevolmente l’attuale stato dell’arte. Su alcune classi ha addirittura fatto registrare dei valori di AUC estremamente vicini a 1, rasentando così il classificatore perfetto.