Non-myopic configuration autotuning of IT systems in production environments

Automating the performance optimization of IT systems is a challenging task due to the intricate dependencies between tunable parameters and their application-specific impact. Artificial Intelligence (AI) techniques have shown great potential in addressing this issue. However, when deploying AI methods on real live production environments, it is crucial to ensure that Service Level Agreements (SLAs) are satisfied and the integrity of the system is preserved. To this end, AI methods can work with exploration boundaries, focusing on areas of the search space that historical data has proved to be safe. Nonetheless, these boundaries can hinder the AI's ability to find global minima as they limit the optimizer's visibility over the search space, potentially resulting in suboptimal performance. In this work, we present L-CC-GP, a Bayesian optimization-based configuration autotuner that extends the state-of-the-art tuner CC-GP, leveraging a look-ahead algorithm to overcome the limitations caused by bounded exploration. To test our approach, we collect a dataset from a real live application and we benchmark it using both analytical and dataset-based experiments. To evaluate the performance of our approach, we use a set of metrics that consider its ability to optimize performance and meet SLA requirements. Using this evaluation framework we demonstrate L-CC-GP is able to improve on CC-GP's state-of-the-art performance.

L'automazione dell'ottimizzazione delle performance di sistemi informatici rappresenta una sfida complessa a causa delle intricate interdipendenze tra i parametri del sistema e il loro impatto sulle specifiche applicazioni. Tecniche di Intelligenza Artificiale (IA) hanno dimostrato risultati promettenti in questo ambito. Tuttavia, quando si utilizzano queste tecniche di IA in ambienti in produzione, è di fondamentale importanza rispettare gli accordi sul livello di servizio imposti dall'utente e preservare l'integrità del sistema. Per raggiungere questo obiettivo, i metodi di IA possono operare con vincoli di esplorazione, focalizzandosi su aree dello spazio di ottimizzazione che i dati raccolti hanno dimostrato essere sicure. Tuttavia, questi vincoli potrebbero impattare negativamente sulle capacità dell'ottimizzatore di raggiungere minimi globali, dal momento che limitano la sua visibilità sullo spazio di ricerca, potenzialmente risultando in prestazioni subottimali. In questa tesi, presentiamo L-CC-GP, un ottimizzatore automatico di configurazioni basato sull'ottimizzazione Bayesiana ed estensione di CC-GP, che sfrutta un algoritmo di ottimizzazione lungimirante per sormontare le limitazioni causate dall'esplorazione con vincoli. Per testare il nostro approccio, collezioniamo un dataset da un'applicazione reale, e lo usiamo su esperimenti sia analitici che basati su dataset. Per valutare le performance del nostro approccio, usiamo un insieme di metriche che considerano la sua abilità nell'ottimizzare le performance e soddisfare i requisiti degli accordi sul livello di servizio. Usando questa struttura di valutazione mostriamo che L-CC-GP è in grado di migliorare le performance di CC-GP.