mixed precision tuning on gpgpus exploiting cuda

The use of mixed precision has become increasingly important in recent years to increase energy efficiency and improve performance. Over the years several tools have been introduced that can perform precision tuning. As the demand for faster and more efficient processing capabilities continues to grow, GPGPUs have emerged as a powerful tool that enables researchers and developers to harness the immense computational power of GPUs for general-purpose computing tasks. The support of precision tuning tools in the literature for GPGPU applications is lacking. In this work, we extend one of the state-of-the-art tools to support the optimization of GPGPU CUDA applications through precision tuning. Our work, tested on an NVIDIA GPU, achieved a speedup of up to 88.6% and managed to keep the error on the results within a significantly acceptable range. In this work, we also conducted an analysis of the critical areas for precision tuning and the types of data that are most beneficial on GPUs.

L’impiego della mixed precision è diventato sempre più importante negli ultimi anni per aumentare l’efficienza energetica e migliorare le prestazioni. Nel corso degli anni sono stati introdotti diversi tool in grado di eseguire il precision tuning. Vista la crescente richiesta di capacità di elaborazione più veloci ed efficienti, le GPGPU si sono affermate come un potente strumento che permette a ricercatori e sviluppatori di di sfruttare l’immensa potenza di calcolo delle GPU per attività di calcolo generiche. La presenza in letteratura di tool di precision tuning per le applicazioni GPGPU è attualmente carente. In questo lavoro, estendiamo uno degli strumenti all’avanguardia per supportare l’ottimizzazione delle applicazioni GPGPU CUDA attraverso il precision tuning. Il nostro lavoro, testato su una GPU NVIDIA, ha ottenuto un aumento di velocità fino all’88,6% ed è riuscito a mantenere l’errore sui risultati entro un intervallo significativamente accettabile. In questo elaborato, abbiamo anche condotto un’analisi delle aree critiche per il precision tuning e dei tipi di dati che risultano computazionalmente vantaggiosi per le schede grafiche.