Framtiden för adaptiv databehandling: Det komponerbara datacentret

Det här blogginlägget är ett utdrag från huvudpresentationen av Salil Raje, EVP och GM Xilinx Data Center Group, som gavs den 24 mars 2021, på Xilinx Adapt: ​​Data Center. För att se Salils keynote on-demand, tillsammans med ett stort urval av presentationer av branschexperter, kan du registrera dig och se innehållet här.

De flesta av oss träffar fortfarande våra medarbetare via videokonferenser online efter paradigmskiftet orsakat av covid-19-pandemin. Du tänker förmodligen inte så mycket på vad som krävs för att streama allt innehåll och flöden från dina möten. Men om du är en datacenteroperatör har du förmodligen inte fått mycket sömn under det senaste året och oroat dig för hur du ska hantera den aldrig tidigare skådade pandemiska ökningen av videotrafik.

Inte bara det, utan datacenter måste nuförtiden hantera en explosion av ostrukturerad data från ett brett spektrum av arbetsbelastningar som videokonferenser, strömmande innehåll, onlinespel och e-handel. Många av dessa applikationer är mycket känsliga för latens och är också föremål för ständigt föränderliga standarder för komprimering, kryptering och databasarkitekturer.

Detta har tvingat datacenter att skala upp sin infrastruktur för att möta prestanda- och latenskraven för en mängd olika krävande arbetsbelastningar, samtidigt som man försöker minimera kostnader och strömförbrukning. Det har visat sig vara mycket svårt, och det tvingar datacenteroperatörer att tänka om sin nuvarande arkitektur och utforska nya konfigurationer som i sig är mer skalbara och effektiva.

För närvarande har de flesta datacenter rack med fasta uppsättningar av resurser, som kombinerar SSD, processorer och acceleratorer i en enda server. Även om detta säkerställer en hög bandbreddsanslutning mellan beräkning och lagring, är det mycket ineffektivt när det gäller resursutnyttjande, eftersom det finns ett fast förhållande mellan lagring och beräkning på varje server. Eftersom arbetsbelastningar kräver en annan blandning av beräkning och lagring, finns öar av oanvända resurser kvar på varje server.

Komponerbar infrastruktur

En ny arkitektur håller på att växa fram som lovar att göra en dramatisk förbättring av resursutnyttjandet. Det är känt som "komponerbar infrastruktur". Komponerbar infrastruktur medför frikoppling resurser och istället slå ihop dem och göra dem tillgängliga från var som helst. Komponerbara infrastrukturer möjliggör tillhandahållande av arbetsbelastningar med precis rätt mängd resurser och snabb omkonfigurering via programvara.

En komponerbar arkitektur med pooler av processorer, SSDS och acceleratorer som är sammankopplade i nätverk och kontrolleras av ett standardbaserat provisioneringsramverk lovar avsevärt förbättrad datacenterresurseffektivitet. I en sådan arkitektur kan olika arbetsbelastningar ha olika beräknings-, lagrings- och accelerationskrav, och dessa resurser kommer att tilldelas i enlighet med detta utan att förlora hårdvara. Det låter bra i teorin, men i praktiken finns det en stor fråga: latens.

Latensutmaningen

När du delar upp resurser och flyttar dem längre ifrån varandra får du fler förseningar och minskad bandbredd på grund av nätverkstrafiken mellan CPU:er och SSD:er, eller mellan CPU:er och acceleratorer. Om du inte har något sätt att minska nätverkstrafiken och koppla ihop resurserna på ett effektivt sätt, kan detta vara kraftigt begränsande. Det är där FPGA:er spelar tre viktiga roller för att lösa latensutmaningen:

• FPGA:er fungerar som anpassningsbara acceleratorer som kan anpassas för varje arbetsbelastning för maximal prestanda. 
• FPGA:er kan också föra datorer närmare data, och därigenom minska latensen och minimera den erforderliga bandbredden.
• Den anpassningsbara, intelligenta strukturen hos FPGA:er möjliggör effektiv sammanslagning av resurser utan att det uppstår alltför stora förseningar. 

Anpassningsbar acceleration

Den första betydande fördelen med FPGA-baserade datoracceleratorer är dramatiskt förbättrad prestanda för arbetsbelastningar som är mycket efterfrågade idag. I användningsfall för videoomkodning för livestreamingapplikationer överträffar FPGA-lösningar vanligtvis x86-processorer med 30x, vilket hjälper datacenteroperatörer att möta den enorma ökningen av antalet samtidiga strömmar. Ett annat exempel är inom det kritiska området genomisk sekvensering. En ny kund hos Xilinx genomik fann att vår FPGA-baserade accelerator gav svaret 90 gånger snabbare än en CPU, vilket hjälpte medicinska forskare att testa DNA-prover på en bråkdel av den tid det en gång tog.

Flytta Compute närmare data

Den andra stora fördelen med FPGA:er i ett komponerbart datacenter är förmågan att föra anpassningsbar dator nära data, oavsett om de är i vila eller i rörelse. Xilinx FPGA:er som används i SmartSSD-beräkningslagringsenheter accelererar funktioner som höghastighetssökning, parsning, komprimering och kryptering, som vanligtvis utförs av en CPU. Detta hjälper till att avlasta processorn för mer komplexa uppgifter men minskar också trafiken mellan processorn och SSD:erna, vilket minskar bandbreddsförbrukningen och minskar latensen.

På liknande sätt används våra FPGA:er nu i SmartNICs som vår nya Alveo SN1000 för att accelerera data i rörelse med trådhastighetspaketbehandling, komprimering och kryptotjänster samt möjligheten att anpassa sig till anpassade växlingskrav för ett visst datacenter eller kund.   

Intelligent tyg

When you combine an FPGA’s adaptable compute acceleration with low-latency connectivity, you can go a step further in the composable data center.  You can assign a compute-heavy workload to a cluster of accelerators that are interconnected by an adaptable intelligent fabric - creating a high-performance computer on demand.

Naturligtvis är inget av detta möjligt om du inte kan programmera beräkningsacceleratorerna, SmartSSD:erna och SmartNICs med de optimala accelerationsalgoritmerna och sedan tillhandahålla dem i rätt antal för varje arbetsbelastning. För den uppgiften har vi byggt en omfattande mjukvarustack som utnyttjar domänspecifika branschramverk som TensorFlow och FFMPEG, som fungerar tillsammans med vår Vitis-utvecklingsplattform. Vi ser också en roll för provisioneringsramverk på högre nivå som RedFish för att hjälpa till med intelligent resursallokering.

Framtiden är nu

Löftet om det komponerbara datacentret är en spännande förändring och Xilinx-enheter och acceleratorkort är viktiga byggstenar till denna nya effektiva arkitektur. Med snabb omkonfigurerbarhet, låg latens och en flexibel arkitektur som kan anpassa sig till förändrade arbetsbelastningar är Xilinx väl positionerat för att vara en stor aktör i denna utveckling.