Uncovering influence campaigns on Twitter by detecting coordination on multiple behavioural patterns

Influence campaigns, strategic maneuvers aimed at shaping public sentiment, have historically exploited various communication avenues for disseminating misinformation and propaganda. Social networks have emerged as potent platforms for deceptive influence campaigns. The thesis presents an extensive analysis of the shifting dynamics and strategies employed by influence campaigns. By dissecting suspicious behaviors within these campaigns, the study uncovers the intricate methods used to manipulate public opinion, primarily within the realm of social media. Focusing on Information Operations on the Twitter platform, the study explores seven fundamental coordination techniques. These techniques are employed to unveil the patterns and dynamics of coordination among participants in influence campaigns. The research operates on multiple levels, dissecting global, temporal, and inter-country aspects. Utilizing the insights gathered from this analysis, the research contributes towards the creation of a novel methodology tailored for identifying coordinated activities. This approach considers an interaction network woven among users, encompassing five distinct behavioral traces: Fast Retweet, Co-Retweet, Co-URL, Hashtag Sequence, and Text Similarity. The first iteration of this methodology involves an unsupervised technique that leverages the concept of node centrality within the network to distinguish nodes that play pivotal roles in the network structure. Complementing the unsupervised method is a supervised approach that harnesses node embeddings to discern malicious users.

Le influence campaigns sono manovre strategiche volte a plasmare il sentimento pubblico che hanno storicamente sfruttato varie vie di comunicazione per diffondere disinformazione e propaganda. I social network sono emersi come potenti piattaforme per delle influence campaigns ingannevoli. La tesi presenta un'analisi approfondita delle dinamiche mutevoli e delle strategie impiegate dalle influence campaigns. Analizzando i comportamenti sospetti all’interno di queste campagne, lo studio svela i metodi complessi utilizzati per manipolare l’opinione pubblica nel regno dei social media. Concentrandosi sulle Information Operations sulla piattaforma Twitter, lo studio esplora sette tecniche fondamentali di coordinamento. Queste tecniche vengono utilizzate per svelare i modelli e le dinamiche di coordinamento tra i partecipanti alle campagne di influenza. La ricerca opera su più livelli, analizzando aspetti globali e temporali. Utilizzando le informazioni raccolte da questa analisi, la ricerca contribuisce alla creazione di una nuova metodologia per identificare attività coordinate. Questo approccio considera una rete di interazione tra gli utenti che comprende cinque distinte tracce comportamentali: Fast Retweet, Co-Retweet, Co-URL, Hashtag Sequence e Text Similarity. La prima iterazione di questa metodologia prevede un approccio supervisionato che sfrutta gli embeddings dei nodi per individuare gli utenti malintenzionati. A complemento del metodo supervisionato, una tecnica non supervisionata sfrutta il concetto di centralità del nodo all’interno della rete per distinguere i nodi che svolgono ruoli cruciali nella struttura della rete.