Constrained Bayesian optimization for performance autotuning

The evolution of our world pervaded by IT technologies has contributed making performance optimization more and more relevant. The target of this field of study is to develop techniques to increase the performance of the systems. One of the most important challenges of performance optimization is the tuning of systems configurations. Given the increasing complexity of IT systems, manual tuning, usually done by experts, has become almost unfeasible. In order to overcome this issue, researchers have proposed Machine Learning techniques. The one focused in this thesis is Bayesian Optimization (BO). Going into detail, this work investigates how BO can be adapted to the problem of constrained performance optimization. This is particularly relevant since the tuning of IT systems always needs to respect a set of constraints. Among them, we can find also constraints that involve performance metrics such as the response time of the system. This aspect represents a challenge of the optimization process since the evaluation of this type of constraints requires to run performance tests, with the corresponding risk of encountering violations. The thesis shows how Bayesian Optimization can be extended to work properly in such a context improving the performances obtained following the state of the art approach.

L'evoluzione del nostro mondo pervaso dalle tecnologie informatiche ha contribuito a rendere l'ottimizzazione delle performance sempre più rilevante. L'obiettivo di questo campo di studi è quello di sviluppare tecniche per aumentare le performance dei sistemi. Una delle sfide più importanti dell'ottimizzazione delle performance è il tuning delle configurazioni dei sistemi. Data la crescente complessità dei sistemi informatici, il tuning manuale, solitamente fatto da esperti, è diventato quasi infattibile. Per superare questo ostacolo, i ricercatori hanno proposto delle tecniche di Machine Learning. Fra queste, quella focalizzata da questa tesi è l'Ottimizzazione Bayesiana. Andando nel dettaglio, questo lavoro investiga come questo tipo di ottimizzazione possa essere adattato al problema della ottimizzazione vincolata delle performance. Questo problema è particolarmente rilevante dato che il tuning dei sistemi informatici deve sempre rispettare un insieme di vincoli. Fra questi, possiamo trovare vincoli che coinvolgono metriche di performance come il tempo di risposta del sistema. Questo aspetto è uno dei più delicati nel processo di ottimizzazione perché la valutazione di questi vincoli richiede di effettuare performance test con il conseguente rischio di imbattersi in violazioni. La tesi mostra come l'Ottimizzazione Bayesiana può essere estesa per lavorare correttamente in questo contesto migliorando le performance ottenute seguendo l'approccio suggerito dallo stato dell'arte.