Deep-fake review detection

In the Deep Learning Era it is possible to misuse machine learning techniques to produce audios and videos that can easily deceive humans and machines. This work deals with identifying deep-fake reviews by means of a Variational Autoencoder based on the Attention mechanism. The Varia- tional Autoencoder is trained, validated and tested on three partitions of the Amazon Product Data dataset, then it is compared against the state-of-the-art architecture, the Transformer, on natural language modelling tasks. The Encoder of the Variational Autoencoder produces review embeddings that make possible disentangling deep-fake reviews from legit ones.

Nell'Era del Deep Learning è possibile fare un uso malevolo delle tecniche di Machine Learning per produrre audio e video tali da ingannare sia macchine che umani. Questo lavoro si focalizza sull'identificazione di recensioni deep-fake tramite un Autoencoder Variazionale basato sul meccanismo dell'Attenzione. L'Autoencoder Variazionale è allenato, validato e testato su tree partizioni dell'Amazon Product Dataset ed è paragonato all'architettura dello stato dell'arte Transformer, su moderazione di linguaggio naturale. L'Encoder dell'Autoencoder Variazionale rende possibile separare recensioni deep-fake da recensioni reali.