Adaptiivse andmetöötluse tulevik: koostatav andmekeskus

See blogipostitus on väljavõte Salil Raje, EVP ja GM Xilinx Data Center Groupi peaettekandest, mis peeti 24. märtsil 2021 Xilinx Adapt: ​​Data Centeris. Kui soovite näha soovi korral Salili põhiettekannet koos suure hulga valdkonnaekspertide ettekannetega, saate registreeru ja vaata sisu siit.

Enamik meist kohtub pärast COVID-19 pandeemia põhjustatud paradigmamuutust endiselt oma töökaaslastega veebivideokonverentside kaudu. Tõenäoliselt ei mõtle te palju sellele, mida on vaja koosolekute sisu ja voogude voogesitamiseks. Kuid kui olete andmekeskuse operaator, pole te tõenäoliselt viimase aasta jooksul palju maganud, muretsedes selle pärast, kuidas tulla toime enneolematu pandeemiaga videoliikluses.

Mitte ainult see, vaid tänapäeval peavad andmekeskused hakkama saama plahvatuslikult suure hulga struktureerimata andmeid paljudest töökoormustest, nagu videokonverentsid, sisu voogesitus, võrgumängud ja e-kaubandus. Paljud neist rakendustest on latentsusaja suhtes väga tundlikud ning nende suhtes kehtivad ka tihendamise, krüptimise ja andmebaasiarhitektuuride pidevalt arenevad standardid.

See on sundinud andmekeskusi suurendama oma infrastruktuuri, et vastata mitmesuguste nõudlike töökoormuste jõudlus- ja latentsusnõuetele, püüdes samal ajal kulusid ja energiatarbimist minimeerida. See on osutunud väga keeruliseks ja sunnib andmekeskuste operaatoreid oma praegust arhitektuuri ümber mõtlema ja uurima uusi konfiguratsioone, mis on oma olemuselt skaleeritavamad ja tõhusamad.

Praegu on enamikul andmekeskustel fikseeritud ressursside komplektidega riiulid, mis ühendavad SSD-d, CPU-d ja kiirendid ühes serveris. Kuigi see tagab suure ribalaiusega ühenduse arvutamise ja salvestusruumi vahel, on see ressursikasutuse seisukohalt väga ebaefektiivne, kuna igas serveris on fikseeritud salvestusruumi ja arvutuse suhe. Kuna töökoormused nõuavad erinevat arvutus- ja salvestusruumi kombinatsiooni, jäetakse igasse serverisse kasutamata ressursside saared.

Komponeeritav infrastruktuur

Tekkimas on uus arhitektuur, mis tõotab ressursside kasutamist oluliselt parandada. Seda tuntakse kui "koostatavat infrastruktuuri". Komponeeritav infrastruktuur eeldab lahtisidumine ressursse ja selle asemel koondada need kokku ja teha need kõikjalt juurdepääsetavaks. Komponeeritavad infrastruktuurid võimaldavad töökoormust varustada just õige hulga ressurssidega ja kiiret ümberseadistamist tarkvara kaudu.

Koostatav arhitektuur koos CPU-de, SSDS-i ja kiirendite kogumitega, mis on võrku ühendatud ja mida juhib standarditel põhinev varustamisraamistik, tõotab andmekeskuse märkimisväärselt paremat ressursitõhusust. Sellises arhitektuuris võivad erinevatel töökoormustel olla erinevad arvutus-, salvestus- ja kiirendusnõuded ning need ressursid määratakse vastavalt ilma raisatud riistvarata. See kõik kõlab teoreetiliselt suurepäraselt, kuid praktikas on üks suur probleem: latentsus.

Latentsuse väljakutse

Kui eraldate ressursse ja liigute neid üksteisest kaugemale, tekib protsessorite ja SSD-de või protsessorite ja kiirendite vahelise võrguliikluse tõttu rohkem viivitusi ja väheneb ribalaius. Kui teil pole võimalust võrguliiklust kuidagi vähendada ja ressursse tõhusal viisil ühendada, võib see tõsiselt piirata. Siin mängivad FPGA-d latentsusprobleemi lahendamisel kolme peamist rolli:

• FPGA-d toimivad kohandatavate kiirenditena, mida saab maksimaalse jõudluse saavutamiseks kohandada iga töökoormuse jaoks. 
• FPGA-d võivad samuti tuua arvutusi andmetele lähemale, vähendades seeläbi latentsust ja minimeerides vajalikku ribalaiust.
• Kohanduv ja intelligentne FPGA-de struktuur võimaldab ressursse tõhusalt koondada ilma liigsete viivitusteta. 

Kohandatav kiirendus

FPGA-põhiste arvutuskiirendite esimene oluline eelis on järsult paranenud jõudlus töökoormuste jaoks, mille järele on tänapäeval suur nõudlus. Reaalajas voogesituse rakenduste videote ümberkodeerimisel on FPGA-lahendused tavaliselt 86x paremad x30-protsessorid, mis aitab andmekeskuste operaatoritel toime tulla samaaegsete voogesituste arvu tohutu kasvuga. Teine näide on genoomse järjestuse kriitilises valdkonnas. Hiljutine Xilinxi genoomika klient leidis, et meie FPGA-l põhinev kiirendi andis vastuse 90 korda kiiremini kui protsessor, aidates meditsiiniteadlastel DNA proove testida murdosa sellest ajast, mis selleks kulus.

Arvutamise liigutamine andmetele lähemale

Komponeeritavas andmekeskuses kasutatavate FPGA-de teine ​​​​oluline eelis on võime tuua kohandatavad arvutused andmetele lähedale nii puhkeolekus kui ka liikumises. SmartSSD arvutuslikes salvestusseadmetes kasutatavad Xilinxi FPGA-d kiirendavad selliseid funktsioone nagu kiire otsing, sõelumine, tihendamine ja krüptimine, mida tavaliselt teostab protsessor. See aitab protsessorit keerulisemate toimingute jaoks maha laadida, kuid vähendab ka liiklust protsessori ja SSD-de vahel, vähendades seeläbi ribalaiuse tarbimist ja latentsust.

Samamoodi kasutatakse meie FPGA-sid nüüd SmartNIC-ides, näiteks meie uues Alveo SN1000-s, et kiirendada liikuvaid andmeid traadiga paketttöötluse, tihendamise ja krüptoteenuste abil, samuti võime kohaneda konkreetse andmekeskuse või kliendi kohandatud lülitusnõuetega.   

Intelligentne kangas

When you combine an FPGA’s adaptable compute acceleration with low-latency connectivity, you can go a step further in the composable data center.  You can assign a compute-heavy workload to a cluster of accelerators that are interconnected by an adaptable intelligent fabric - creating a high-performance computer on demand.

Loomulikult ei ole see võimalik, kui te ei saa programmeerida arvutuskiirendeid, SmartSSD-sid ja SmartNIC-sid optimaalsete kiirendusalgoritmidega ning seejärel varustada neid iga töökoormuse jaoks õigetes arvudes. Selle ülesande jaoks oleme loonud tervikliku tarkvaravirna, mis kasutab domeenispetsiifilisi tööstusraamistikke, nagu TensorFlow ja FFMPEG, mis töötavad koos meie Vitise arendusplatvormiga. Samuti näeme rolli kõrgema taseme pakkumisraamistikel, nagu RedFish, et aidata ressursse intelligentsel jaotada.

Tulevik on nüüd

Komponeeritava andmekeskuse lubadus on põnev muutus ning Xilinxi seadmed ja kiirendikaardid on selle uue tõhusa arhitektuuri peamised ehitusplokid. Kiire ümberkonfigureeritavus, madal latentsusaeg ja paindlik arhitektuur, mis suudab kohaneda muutuva töökoormusega, on Xilinxil hea positsioon, et olla selles arengus peamiseks osalejaks.