Enabling NIC-accelerated multi-tenant services with P4 and isolation techniques

The continuous advancement of network interface controllers (NICs) led to the develop- ment of programmable "smart" NICs, which support a wide range of network functions, services and offloading capabilities. Unlike traditional NICs, these modern smart NICs incorporate sophisticated hardware elements such as FPGAs, embedded processors and reconfigurable match-action pipelines. This enhances application efficiency while alleviat- ing the workload on general-purpose CPUs. Additionally, they mitigate issues associated with off-path computational accelerators, such as the latency caused by CPU-accelerator intercommunication overhead. Despite their potential, existing offloading NIC architectures face several key challenges. Those on-path smart NIC designs, like a manycore architecture or the programmable forwarding pipelines, are limited in either flexibility or their ability to support multi- tenant environments and complex offloads; which could have longer data dependency chains, restricting their adaptability to more advanced networking tasks. As network speeds continue to increase and applications demand more sophisticated of- floading mechanisms, it is crucial to explore new approaches to NIC programmability. Modern cloud architectures and data centers, with the growing deployment of FPGA- based SmartNICs (F-NICs), rely heavily on these technologies for virtualization, security enforcement and load balancing, exploiting the capabilities of filtering, transformation and steering of network traffic offered by those F-NICs. In order to cope with these needs and by taking into account the constraints and limita- tions of modern smart NICs in the edge computing environments addressed before, this thesis proposes new methodologies to enhance virtualization and isolation of different net- work functions, in addition to enhancing the offloadings’ complexity supported with the aid of a reconfigurable pipeline.

Il continuo avanzamento dei controller di interfaccia di rete (NIC) ha portato alla nascita di NIC "intelligenti" programmabili, che supportano una vasta gamma di funzioni di rete, servizi e meccanismi di offloading. A differenza dei NIC tradizionali, i moderni smart NIC integrano elementi hardware sofisticati come FPGA, processori integrati e pipeline riconfigurabili basate sulla logica di match-action. Questo migliora l’efficienza delle applicazioni e riduce il carico della CPU. Inoltre, vengono evitate le problematiche introdotte da acceleratori computazionali separati dalle NIC, come la latenza introdotta dall’overhead di comunicazione tra CPU e acceleratore. Nonostante il loro potenziale, le attuali architetture di offloading alle interfacce di rete affrontano diverse sfide. Queste alternative on-path, in grado di elaborare i pacchetti direttamente nella NIC, come le architetture multi-processore o le pipeline riconfigurabili, sono limitate o in flessibilità o nella capacità di supportare più utenti con offload complessi e diversi; i quali potrebbero avere lunghe catene di dipendenze fra dati, riducendo così la loro adattabilità a compiti di rete più avanzati. Con l’aumento delle velocità di rete e la crescente domanda di meccanismi di offloading sofisticati, è fondamentale esplorare nuovi approcci alla programmabilità delle NIC. Le moderne architetture cloud e i data center, con la crescente adozione di SmartNIC basati su FPGA (F-NIC), fanno ampio uso di queste tecnologie per la virtualizzazione, controlli di sicurezza e il bilanciamento del carico di rete, sfruttando le capacità di filtrag- gio, trasformazione e instradamento del traffico offerte da questi F-NIC. Per soddisfare le esigenze esposte in precedenza, tenendo conto dei vincoli e delle limi- tazioni dei moderni smart NIC per degli ambienti di calcolo ai nodi marginali della rete, questa tesi propone nuove metodologie per migliorare la virtualizzazione e l’isolamento delle diverse funzioni di rete, oltre a potenziarne la complessità supportata dalla pipeline riconfigurabile.