Hate speech. How to fight cyberbullying with machine learning

The extensive use of online social networks as replacement of human real-life relationships, has resulted in the uncontrolled and exponential rise of hateful communications. These contents, commonly known as hate speech, damage the user experience and drive to serious consequences that in some cases may end in tragic outcomes. This thesis has the aim to make an overview on the topic, focusing on legal, psychological, computer science and engineering perspective. The purpose is to detect and identify hate speech through a machine learning method, providing an automatic mechanism. To halt this phenomenon, the research targets the most fragile age group: adolescents. Social networks source different information, so it is fundamental to provide a detection approach which can be used across several platforms without being changed, compliant with the Italian and European law. This is done by suggesting an approach to integrate the algorithm with teenagers’ smartphone and connect them with parents’ mail. Furthermore, the mechanism identifies hate speech and recommend psychologists and lawyers to parents, who can decide how to properly handle this critical situation. In fact, it is likely that specialists can solve critical situations. This proposal should be considered the best investment for the future, as it gives parents all the necessary resources needed to deal with such a sensitive situation.

L’impiego sempre più morboso dei social network, come sostituti del processo relazionale umano, e la spregiudicatezza con la quale le persone, dietro ad essi, si ergono a giudici e boia nei confronti degli altri ha favorito la crescita esponenziale della tematica ‘hate speech’. Con questo termine si intendono tutti i contenuti che veicolano messaggi di incitamento all’odio, pertanto l’esperienza dell’utente viene danneggiata creando una catena di conseguenze le quali in alcuni casi e in misura sempre più incontrollabile hanno portato ad esiti anche drammatici. Questo lavoro si pone l’obiettivo di indagare alcuni aspetti relativi al tema della diffusione dell’odio, osservando il fenomeno dal punto di vista legale, psicologico, ingegneristico e informatico con l’intento di proporre un meccanismo automatico per individuare ed identificare l’odio online tramite machine learning. Per circoscrivere il fenomeno la ricerca si indirizzerà verso la fascia d’età considerata più fragile: gli adolescenti. È fondamentale fornire un approccio a livello italiano che può essere utilizzato nelle diverse piattaforme senza essere cambiato e che sia a norma di legge sia in Italia che in Europa. Questo obiettivo viene raggiunto grazie alla formulazione di un algoritmo che possa integrare i cellulari degli adolescenti, connettendoli con le e-mail dei genitori. L’algoritmo individua l’hate speech e suggerisce ai genitori di rivolgersi a psicologi e avvocati: è probabile che le specifiche professionalità potranno contribuire a sanare situazioni che richiedono di essere ricondotte nell’alveo della “normalità” o “legalità”. La proposta di una modalità strutturale di controllo deve essere considerata il miglior investimento per il futuro per fornire ai genitori tutte le risorse necessarie per affrontare nel miglior modo questa delicata situazione.