I vincitori del Premio Tesi
16a Edizione - Tesi del 2020
Laura Nardi
tesi magistrale
Università degli Studi del Sannio
Dipartimento di Ingegneria
Titolo della tesi
“Realization of an engine for GAN-driven malware manipulation”
Relatore
Corrado Aaron Visaggio
Abstract
Presence of adversarial samples indicates the vulnerability of the machine learning models. Learning robust models and measuring their susceptibility against adversarial attacks are need of the day. Attacks and defenses on adversarial examples draw great attention. The vulnerability to adversarial examples becomes one of the major risks for applying DNNs (Deep Neural Networks) in safety critical environments. Adversarial perturbations can easily fool DNNs in the testing/deploying stage exploiting blind spots in the Machine Learning engine. The effectiveness of an adversarial system is measured in terms of what is commonly called Evasion Rate. The evasion rate represents a measure of the success rate obtained by generators networks in fooling their opponent discriminators; it can be computed as the ratio between the number of adversarial examples that were misclassified as benign samples (also referred in the following as "goodware") by each detector, over the total amount of adversarial samples submitted to the discriminators. It depends upon a specific group of features considered for the input set. Applied to the creation of malware, GANs (Generative Adversarial Networks) are able to generate a new instance of a malware family without knowing an explicit model of the initial distribution of the data. So an attacker could use GANs to fool detection systems, just by sampling the provided data. On the other hand, GANs are also useful to build more robust machine learning models helping in the development of a better training set. Real defense technologies such as AV or EDR must take into account an acceptable trade-off among the detection accuracy, short learning times and limit the size of data obtain able by selecting a convenient combination of the sensitive feature. The effectiveness of an attack on the ML model also depends on the knowledge of the system by the attacker. In this case study, we conducted a grey-box attack in which the features of the training set are known: this permits us to reach a very high evasion rate (about 99%).
Andrea Fioraldi
tesi magistrale
Università degli Studi di Roma "La Sapienza"
Dipartimento di Ingegneria Informatica, automatica e gestionale
Titolo della tesi
“Program State Abstraction for Feedback-Driven Fuzz Testing using Likely Invariants”
Relatore
Daniele Cono D’Elia
Abstract
Fuzz testing proved its great effectiveness in finding software bugs in the latest years, however, there are still open challenges. Coverage-guided fuzzers suffer from the fact that covering a program point does not ensure the trigger of a fault. Other more sensitive techniques that in theory should cope with this problem, such as the coverage of the memory values, easily lead to path explosion. In this thesis, we propose a new feedback for Feedback-driven Fuzz testing that combines code coverage with the "shape" of the data. We learn likely invariants for each basic block in order to divide into regions the space described by the variables used in the block. The goal is to distinguish in the feedback when a block is executed with values that fall in different regions of the space. This better approximates the program state coverage and, on some targets, improves the ability of the fuzzer in finding faults. We developed a prototype using LLVM and AFL++ called InvsCov.
Pier Paolo Tricomi
tesi magistrale
Università degli Studi di Padova
Dipartimento di Matematica
Titolo della tesi
“Player Recognition and Private Data Inference Exploiting Online-Gaming Data”
Relatore
Prof. Mauro Conti
Abstract
La tesi “Player Recognition and Private Data Inference Exploiting Online-Gaming Data” affronta il tema della sicurezza nei video games. In particolare, il candidato Pier Paolo Tricomi ha implementato una rete neurale ricorrente in grado di profilare e riconoscere videogiocatori in base al loro stile di gioco, creando un metodo innovativo ed originale per contrastare problemi quali truffe e cyberbullismo, sempre più presenti nel mondo virtuale. Inoltre, è stata condotta un’analisi preliminare sulla correlazione tra informazioni private dei giocatori e il loro stile di gioco. L’esito positivo di tale analisi apre pericolosamente la possibilità di inferire informazioni private di videogiocatori sfruttando dati di gioco pubblici. Per verificare l’esistenza di comportamenti pericolosi nei videogames, quali truffe e cyberbullismo, e per raccogliere dati utili a verificare gli obiettivi della tesi, Pier Paolo ha distribuito un questionario online indirizzato a giocatori di Dota 2, un videogame con più di 10 milioni di utenti attivi. Al questionario hanno partecipato circa 600 persone, e i risultati mostrano come cyberbullismo e truffe siano fenomeni molto presenti nei videogiochi online: circa il 50% dei partecipanti è stato molestato in gioco almeno una volta e il 75% è stato vittima di un tentativo di truffa. I problemi sopra citati possono essere ridotti essendo in grado di riconoscere univocamente un giocatore, indipendentemente dall’account in cui gioca. Se gli amministratori dei videogiochi “bannano” un utente pericoloso, quest’ultimo può ricreare un nuovo account e continuare ad esserlo. Potendo disporre di una “impronta digitale” nel mondo virtuale, si ridurrebbe drasticamente questo problema, in quanto un giocatore potrebbe essere riconosciuto anche se sotto falsa identità. Il tesista ha delineato questa impronta digitale sfruttando lo stile di gioco di un giocatore, usando il movimento del cursore, della telecamera di gioco, e le azioni compiute dal giocatore. Per riconoscere i giocatori, è stata implementata una rete neurale ricorrente. Allenata su 50 giocatori diversi e 5000 partite, la rete ha riconosciuto i giocatori in più del 96% dei casi. Questo risultato dimostra come lo stile di gioco possa essere considerato “biometrico”, dando vita a innumerevoli sviluppi nel campo della sicurezza informatica nei videogiochi. Tra le conseguenze, se un truffatore o un cyberbullo vengono bannati in un account, essi saranno identificabili in ogni altro account in cui giocano o creano. Al contrario, se una vittima di cyberbullismo provasse a creare un nuovo account per sfuggire dai bulli, essi potrebbero rintracciarla usando il medesimo sistema. Quindi, la tesi ha anche lo scopo di creare consapevolezza riguardo una possibile e grave vulnerabilità. Infine, tale sistema di riconoscimento può essere utilizzato come metodo di autenticazione “biometrico”, quindi più sicuro rispetto (o insieme) a una password, per proteggere gli account dei giocatori. Nella parte finale della tesi è stata dimostrata l’esistenza di correlazione tra i dati di gioco degli utenti e loro informazioni private, come il genere, l’occupazione, e tratti di personalità. I risultati mostrano come sia teoricamente possibile inferire informazioni private dei giocatori sfruttando i loro dati di gioco, condivisi pubblicamente senza protezione alcuna. Questo introdurrebbe gravissimi problemi di privacy, o incentivare i già presenti fenomeni di stalking e cyberbullismo. Per questi motivi, crediamo che questo lavoro abbia aperto molte strade alla comunità scientifica per studiare e migliorare la sicurezza degli utenti anche nel mondo virtuale dei videogiochi, che ad oggi coinvolge più di due miliardi di persone. Un estratto della tesi, “PvP: Profiling versus Player! Exploiting Gaming Data for Player Recognition”, è stato pubblicato ad Information Security Conference 2020 (ISC 2020), una delle conferenze di riferimento in Cybersecurity.
Giovanni Calore
tesi magistrale
Università degli Studi di Padova
Dipartimento di Matematica
Titolo della tesi
“Membership Inference Attacks on Differentially Private StyleGAN2”
Relatore
Mauro Conti
Abstract
In recent years, great progress has been made in defining ever more performing and powerful deep learning models, with abilities never seen before. While it is true that the architecture of a model is fundamental for performance in terms of quality and time spent on training, no less important is the usage of a high-quality dataset during training. If even the best of models is trained with a poor quality dataset, then the final result will reflect the negative consequences. Datasets often requires specific permissions that the user must request at the source or complex anonymization procedures, which must be carried out to avoid exposing sensitive information, such as medical records, everyday personal information or sensitive images. A strategy adopted to speed up the scientific research, satisfy the complex requests for data analysis and the stringent privacy requirements is that of the production of synthetic datasets, i.e., datasets that have a distribution very similar to that of a target dataset and can both be used to train complex networks and guarantee a high level of privacy, since their individual samples are different from those of the original dataset, while ensuring the similarity as a whole. A specific model architecture, the Generative Adversarial Network (GAN), has been proved effective in qualitative terms for the production of synthetic datasets. This work focuses on a specific type of attacks against these networks, the Membership Inference attacks. Making membership inference means obtaining information about the individual components of the original dataset, in particular starting from a sample, defining whether that sample is part of the training dataset or not. Having a set of samples, in which the presence of samples used to train the generative model is suspected, the attack consists in identifying these samples. The analysis is concentrated on images, an area in which GANs have established themselves as state-of-the-art for the production of high-quality images. A question to which we try to answer in this document concerns the privacy leakage of these models: do the improvements made to the networks that are now able to produce high-quality samples, translate into greater vulnerability? Does giving more quality necessarily mean creating overfitting on the reference dataset? What are the biggest privacy drawbacks towards these networks? We then propose some innovative approaches as attempted attacks on GANs, testing the intuition that the network can actually "remember" information related to the training data. Abadi et al. defined an algorithm for the protection of GANs against this kind of attacks, introducing the differentially private gradient descent. Basically, to avoid that the update of the network weights undergoes too large variations following observation of the data, the gradient is first clipped and then an arbitrary sum of noise is added, steps which are both regulated by hyperparameters. By definition, the addition of noise in the training procedure leads the model to lose part of its effectiveness and quality in the production of synthetic samples, a price that is paid to guarantee a certain level of privacy. We wanted to measure the effective loss of quality as the values of the clipping and noise intensity hyperparameters vary and the relative ability to resist the analyzed threats, with the aim of determining the feasibility of using the protections adopted in a realistic context and a trade-off between performance and privacy protection. We then propose a new differentially private training procedure that aims to increase the performance of the model in terms of output sample quality, but still maintaining a good level of privacy. This approach is based on a different noise distribution through the layers: the intuition is that by adding a greater amount of noise to the layers that control the synthesis of higher-level features than the noise added to those layers that control low-level features, the model should perform better and output images with higher quality than having a static noise sum operation. The new defined optimizer is called Hierarchical Differentially Private Stochastic Gradient Descent (HDP-SGD).
Marco Russodivito
tesi magistrale
Università degli Studi del Molise
Titolo della tesi
“2Faces: un nuovo modello di malware basato sulla compilazione dinamica di payload malevoli distribuiti”
Relatore
Francesco Mercaldo
Abstract
Android è il sistema operativo per dispositivi mobili più diffuso ed utilizzato al mondo, ma anche quello sottoposto a maggiori pressioni da parte di attacker, i quali sviluppano applicazioni malevole per trafugare informazioni private e sensibili da device infetti. Inoltre, considerando le recenti e sempre più stringenti normative in materia di dati personali, Google sta attuando misure maggiormente restrittive nella pubblicazione delle applicazioni nel suo Google Play Store, il market ufficiale di Android. Ciò porta gli attacker a sviluppare metodologie di attacco innovative. Le motivazioni dietro questo lavoro di tesi risiedono nella progettazione e nella implementazione di un nuovo modello di malware che sfrutta alcune caratteristiche di Android ereditate dal linguaggio Java, quali la compilazione dinamica, il caricamento dinamico e la reflection. Tali tecniche non sono ancora state adoperate per lo sviluppo di un malware, ma potrebbero essere in grado di operare attacchi sempre più dannosi, grazie alle capacità di eseguire codice malevolo, senza che questo persista nell’applicazione e di conseguenza che possa essere rilevato da qualsiasi software di analisi statica e dinamica, quali gli anti-malware. L’obiettivo di questo lavoro di tesi è la progettazione di un nuovo modello di malware Android basato sulla compilazione ed esecuzione di codice Java a runtime e, successivamente, alla progettazione di un’architettura software in grado di rendere questo nuovo modello di malware automatico e distribuito. Tutto ciò ci ha permesso di indagare su una nuova modalità d’attacco in ambiente Android al fine di diffondere i risultati raggiunti dalla comunità scientifica. Tali risultati sono soddisfacenti e ci hanno permesso di gettare buone basi per eventuali sviluppi futuri.
Hanno ottenuto una menzione speciale Maria Francesca Idone e Giuseppe Malandrone, classificati al sesto posto a pari merito.
Il video della premiazione può essere visto qui: http://securitysummit2021.clusit.it/10-11-2021_18-00_19-30_Premio_Tesi
I premiati delle ultime 10 edizioni
Il Premio Tesi è realizzato in collaborazione e con il sostegno di:
