Adaptiivisen tietojenkäsittelyn tulevaisuus: Composable Data Center

Tämä blogiviesti on otettu Salil Rajen, EVP: n ja GM Xilinx Data Center Groupin pääesittelystä, joka pidettiin 24. maaliskuuta 2021 Xilinx Adapt: ​​Data Centerissä. Voit nähdä Salilin pääpuheen pyynnöstä sekä alan asiantuntijoiden suuren esityksen rekisteröidy ja katso sisältö täällä.

Suurin osa meistä tapaa edelleen työtovereitamme online-videoneuvotteluissa COVID-19-pandemian aiheuttaman paradigman muutoksen jälkeen. Et luultavasti ajattele paljoakaan kokousten sisällön ja syötteiden suoratoistamiseksi. Mutta jos olet palvelinkeskusoperaattori, et todennäköisesti ole nukkunut paljon viimeisen vuoden aikana huolehtimalla siitä, miten käsitellä ennennäkemätöntä videoliikenteen pandemiaa.

Paitsi että, palvelinkeskusten on nykyään käsiteltävä rakentamattoman tiedon räjähdys laajasta työkuormasta, kuten videoneuvottelut, suoratoistosisältö, verkkopelit ja verkkokauppa. Monet näistä sovelluksista ovat hyvin herkkiä viiveelle, ja niihin sovelletaan myös jatkuvasti kehittyviä pakkaus-, salaus- ja tietokantaarkkitehtuureja.

Tämä on pakottanut datakeskuksia laajentamaan infrastruktuuriaan täyttämään erilaisten vaativien kuormitusten suorituskyky- ja viivevaatimukset samalla kun yritetään minimoida kustannukset ja virrankulutus. Se on osoittautunut erittäin vaikeaksi, ja se pakottaa datakeskusoperaattorit miettimään nykyisen arkkitehtuurinsa ja tutkimaan uusia kokoonpanoja, jotka ovat luonnostaan ​​skaalautuvia ja tehokkaita.

Tällä hetkellä useimmissa palvelinkeskuksissa on kiinteät resurssijoukot, joissa SSD-asemat, suorittimet ja kiihdyttimet yhdistetään yhteen palvelimeen. Vaikka tämä takaa suuren kaistanleveyden yhteyden laskennan ja tallennuksen välillä, se on hyvin tehoton resurssien hyödyntämisen kannalta, koska jokaisessa palvelimessa on kiinteä varastointi- ja laskentasuhde. Koska kuormitukset edellyttävät erilaista yhdistelmää laskennasta ja tallennustilasta, kullekin palvelimelle jää käyttämättömien resurssien saari.

Yhteensopiva infrastruktuuri

Uusi arkkitehtuuri on syntymässä, joka lupaa parantaa dramaattisesti resurssien käyttöä. Se tunnetaan nimellä "yhdistettävä infrastruktuuri". Yhteensopiva infrastruktuuri edellyttää irrottamista resursseja ja sen sijaan yhdistää ne yhteen ja tehdä niistä helposti saatavilla Komposiittiset infrastruktuurit mahdollistavat työmäärien varaamisen oikealla resurssimäärällä ja nopean uudelleenmäärityksen ohjelmiston avulla.

Yhdistettävä arkkitehtuuri, jossa on CPU-, SSDS- ja kiihdytysyksiköitä, jotka on verkotettu yhteen ja joita ohjaa standardipohjainen provisiointikehys, lupaa huomattavasti parempaa datakeskuksen resurssitehokkuutta. Tällaisessa arkkitehtuurissa erilaisilla kuormituksilla voi olla erilaiset laskenta-, tallennus- ja kiihdytysvaatimukset, ja nämä resurssit osoitetaan vastaavasti ilman hukkaan menevää laitteistoa. Kaikki tämä kuulostaa hyvältä teoriassa, mutta käytännössä on yksi iso asia: latenssi.

Latenssihaaste

Kun hajotat resursseja ja siirrät niitä kauemmas toisistaan, viivästyksiä ja kaistanleveyden vähenemistä aiheutuu keskusyksikköjen ja SSD-asemien tai suorittimien ja kiihdyttimien välisestä verkkoliikenteestä. Ellei sinulla ole mitään tapaa vähentää verkkoliikennettä ja yhdistää resursseja tehokkaasti, tämä voi olla vakavasti rajoittava. Siellä FPGA: lla on kolme pääroolia viivehaasteen ratkaisemisessa:

• FPGA: t toimivat mukautuvina kiihdyttiminä, jotka voidaan räätälöidä jokaiselle työmäärälle maksimaalisen suorituskyvyn saavuttamiseksi. 
• FPGA: t voivat myös tuoda laskennan lähemmäksi dataa, mikä vähentää viivettä ja minimoi vaaditun kaistanleveyden.
• FPGA: n mukautuva, älykäs kangas mahdollistaa resurssien tehokkaan yhdistämisen aiheuttamatta liiallisia viiveitä. 

Mukautuva kiihtyvyys

Ensimmäinen merkittävä etu FPGA-pohjaisille laskennakiihdyttimille on dramaattisesti parantunut suorituskyky nykyään erittäin kysyttyillä kuormituksilla. Suoratoistosovellusten videokoodauksen käyttötapauksissa FPGA-ratkaisut ylittävät tyypillisesti x86-suorittimet 30x, mikä auttaa datakeskuksen operaattoreita kohtaamaan samanaikaisen suoratoiston määrän suuren kasvun. Toinen esimerkki on genomisekvensoinnin kriittinen ala. Äskettäinen Xilinx-genomiikan asiakas havaitsi, että FPGA-pohjainen kiihdyttimemme antoi vastauksen 90 kertaa nopeammin kuin prosessori, mikä auttoi lääketieteellisiä tutkijoita testaamaan DNA-näytteitä murto-osassa kerran kuluneesta ajasta.

Tietojen siirtäminen lähemmäksi dataa

Toinen keskeinen etu FPGA: lle yhdistettävässä datakeskuksessa on kyky tuoda mukautuva laskenta lähelle dataa, joko levossa tai liikkeessä. SmartSSD-laskennallisissa tallennuslaitteissa käytetyt Xilinx FPGA: t nopeuttavat toimintoja, kuten nopea haku, jäsentäminen, pakkaaminen ja salaus, jotka yleensä suorittavat suorittimet. Tämä auttaa suorittimen purkamista monimutkaisemmissa tehtävissä, mutta myös vähentää liikennettä suorittimen ja SSD-asemien välillä, mikä vähentää kaistanleveyden kulutusta ja vähentää viivettä.

Vastaavasti FPGA-tekniikoitamme käytetään nyt SmartNIC-laitteissa, kuten uudessa Alveo SN1000: ssa, nopeuttamaan dataa liikkeessä langallisen nopeuden pakettien käsittely-, pakkaus- ja salauspalveluilla sekä kykyä sopeutua tietyn palvelinkeskuksen tai asiakkaan mukautettuihin kytkentävaatimuksiin.   

Älykäs kangas

When you combine an FPGA’s adaptable compute acceleration with low-latency connectivity, you can go a step further in the composable data center.  You can assign a compute-heavy workload to a cluster of accelerators that are interconnected by an adaptable intelligent fabric - creating a high-performance computer on demand.

Tietysti mikään näistä ei ole mahdollista, jos et voi ohjelmoida laskennakiihdyttimiä, SmartSSD: itä ja SmartNIC: itä optimaalisilla kiihdytysalgoritmeilla ja antaa ne sitten oikeilla numeroilla kutakin työmäärää varten. Tätä tehtävää varten olemme rakentaneet kattavan ohjelmistopinon, joka hyödyntää toimialakohtaisia ​​toimialakehyksiä, kuten TensorFlow ja FFMPEG, jotka toimivat yhdessä Vitis-kehitysalustamme kanssa. Näemme myös roolin korkeamman tason provisiointikehyksille, kuten RedFish, auttamaan älykkäiden resurssien kohdentamisessa.

Tulevaisuus on nyt

Komposiittikeskuksen lupaus on jännittävä muutos, ja Xilinx-laitteet ja kiihdytinkortit ovat tärkeitä rakennuspalikoita uudelle tehokkaalle arkkitehtuurille. Nopean uudelleenkonfiguroitavuuden, matalan viiveen ja joustavan arkkitehtuurin, joka sopeutuu muuttuviin kuormituksiin, Xilinxillä on hyvät mahdollisuudet olla merkittävä toimija tässä evoluutiossa.