Fremtiden for Adaptive Computing: The Composable Data Center

Dette blogindlæg er uddrag fra hovedpræsentationen af ​​Salil Raje, EVP og GM Xilinx Data Center Group, givet den 24. marts 2021 på Xilinx Adapt: ​​Data Center. For at se Salils keynote on-demand sammen med en lang række præsentationer fra brancheeksperter, kan du tilmeld dig og se indholdet her.

De fleste af os mødes stadig med vores kolleger via online videokonferencer efter paradigmeskiftet forårsaget af COVID-19-pandemien. Du tænker sandsynligvis ikke meget over, hvad der skal til for at streame alt indhold og feeds fra dine møder. Men hvis du er et datacenteroperatør, har du sandsynligvis ikke fået meget søvn i løbet af det seneste år og bekymret dig om, hvordan du håndterer den hidtil usete pandemiske stigning i videotrafik.

Ikke kun det, men datacentre i disse dage skal håndtere en eksplosion af ustrukturerede data fra en bred vifte af arbejdsbelastninger som videokonferencer, streaming af indhold, onlinespil og e-handel. Mange af disse applikationer er meget følsomme over for latency og er også underlagt stadigt udviklende standarder for komprimering, kryptering og databasearkitekturer.

Dette har tvunget datacentre til at opskalere deres infrastruktur for at imødekomme kravene til ydeevne og latens for en række krævende arbejdsbelastninger, samtidig med at de forsøger at minimere omkostninger og strømforbrug. Det har vist sig at være meget svært, og det tvinger datacenteroperatører til at genoverveje deres nuværende arkitektur og udforske nye konfigurationer, der i sagens natur er mere skalerbare og effektive.

I øjeblikket har de fleste datacentre racks med faste sæt ressourcer, der kombinerer SSD'er, CPU'er og acceleratorer i en enkelt server. Selvom dette sikrer en høj båndbreddeforbindelse mellem computer og lagring, er det meget ineffektivt med hensyn til ressourceudnyttelse, da der er et fast forhold mellem lagring og beregning på hver server. Da arbejdsbelastninger kræver en anden blanding af computer og lagring, er der øer af ubrugte ressourcer tilbage på hver server.

Komponerbar infrastruktur

En ny arkitektur er ved at opstå, der lover at give en dramatisk forbedring af ressourceudnyttelsen. Det er kendt som "komponerbar infrastruktur". Komponerbar infrastruktur medfører afkobling ressourcer og i stedet samle dem og gøre dem tilgængelige fra hvor som helst. Komponerbare infrastrukturer muliggør levering af arbejdsbelastninger med den helt rigtige mængde ressourcer og hurtig omkonfiguration via software.

En sammensat arkitektur med puljer af CPU'er, SSDS og acceleratorer, der er forbundet i netværk og kontrolleret af en standardbaseret klargøringsramme, lover markant forbedret datacenterressourceeffektivitet. I en sådan arkitektur kan forskellige arbejdsbelastninger have forskellige krav til beregning, lagring og acceleration, og disse ressourcer vil blive tildelt i overensstemmelse hermed uden spildt hardware. Det lyder alt sammen godt i teorien, men i praksis er der et stort problem: Latency.

Latency Challenge

Når du opdeler ressourcer og flytter dem længere fra hinanden, pådrager du dig flere forsinkelser og reduceret båndbredde på grund af netværkstrafikken mellem CPU'er og SSD'er eller mellem CPU'er og acceleratorer. Medmindre du har en måde at reducere netværkstrafikken på og sammenkoble ressourcerne på en effektiv måde, kan dette være stærkt begrænsende. Det er her, FPGA'er spiller tre hovedroller i løsningen af ​​latensudfordringen:

• FPGA'er fungerer som tilpasningsdygtige acceleratorer, der kan tilpasses til hver arbejdsbelastning for maksimal ydeevne. 
• FPGA'er kan også bringe computer tættere på dataene og derved reducere latens og minimere den nødvendige båndbredde.
• Den tilpasningsdygtige, intelligente struktur af FPGA'er muliggør effektiv pooling af ressourcer uden at pådrage sig for store forsinkelser. 

Tilpasningsbar acceleration

Den første væsentlige fordel for FPGA-baserede computeracceleratorer er dramatisk forbedret ydeevne for arbejdsbelastninger, der er meget efterspurgt i disse dage. I tilfælde af brug af videotranskodning til live streaming-applikationer overgår FPGA-løsninger typisk x86 CPU'er med 30x, hvilket hjælper datacenteroperatører med at imødekomme den enorme stigning i antallet af samtidige streams. Et andet eksempel er i det kritiske område for genomisk sekventering. En nylig Xilinx genomics-kunde fandt ud af, at vores FPGA-baserede accelerator leverede svaret 90 gange hurtigere end en CPU, hvilket hjalp medicinske forskere med at teste DNA-prøver på en brøkdel af den tid, det engang tog.

Flytter Compute tættere på data

Den anden nøglefordel for FPGA'er i et komponerbart datacenter er evnen til at bringe tilpasningsdygtig computer tæt på dataene, uanset om de er i hvile eller i bevægelse. Xilinx FPGA'er, der bruges i SmartSSD-beregningslagringsenheder, accelererer funktioner som højhastighedssøgning, parsing, komprimering og kryptering, som normalt udføres af en CPU. Dette hjælper med at aflaste CPU'en til mere komplekse opgaver, men reducerer også trafikken mellem CPU'en og SSD'erne, hvilket reducerer båndbreddeforbruget og reducerer latens.

På samme måde bruges vores FPGA'er nu i SmartNIC'er som vores nye Alveo SN1000 til at accelerere data i bevægelse med wire-speed pakkebehandling, komprimering og kryptotjenester samt evnen til at tilpasse sig tilpassede switching-krav til et bestemt datacenter eller kunde.   

Intelligent stof

When you combine an FPGA’s adaptable compute acceleration with low-latency connectivity, you can go a step further in the composable data center.  You can assign a compute-heavy workload to a cluster of accelerators that are interconnected by an adaptable intelligent fabric - creating a high-performance computer on demand.

Selvfølgelig er intet af dette muligt, hvis du ikke kan programmere computeracceleratorerne, SmartSSD'erne og SmartNIC'erne med de optimale accelerationsalgoritmer og derefter levere dem i de rigtige tal for hver arbejdsbelastning. Til den opgave har vi bygget en omfattende softwarestak, der udnytter domænespecifikke industrirammer som TensorFlow og FFMPEG, som arbejder sammen med vores Vitis-udviklingsplatform. Vi ser også en rolle for provisioneringsrammer på højere niveau som RedFish for at hjælpe med intelligent ressourceallokering.

Fremtiden er nu

Løftet om det komponerbare datacenter er en spændende forandring, og Xilinx-enheder og acceleratorkort er vigtige byggesten til denne nye effektive arkitektur. Med hurtig rekonfigurerbarhed, lav latenstid og en fleksibel arkitektur, der kan tilpasse sig skiftende arbejdsbelastninger, er Xilinx godt positioneret til at være en vigtig spiller i denne udvikling.