Prihodnost prilagodljivega računalništva: Sestavljiv podatkovni center

Ta objava v spletnem dnevniku je izvlečena iz slavnostne predstavitve skupine Salil Raje, EVP in GM Xilinx Data Center Group z dne 24. marca 2021 v Xilinx Adapt: ​​Data Center. Če si želite ogledati Salilovo osrednjo besedo na zahtevo, skupaj z odličnimi predstavitvami strokovnjakov iz industrije, lahko registrirajte se in si oglejte vsebino tukaj.

Večina od nas se po spremembi paradigme, ki jo je povzročila pandemija COVID-19, še vedno srečuje s sodelavci prek spletne videokonference. Verjetno ne razmišljate veliko o tem, kaj je potrebno za pretakanje celotne vsebine in virov s sestankov. Ampak, če ste operater podatkovnega centra, v zadnjem letu verjetno niste veliko spali, ko ste se spraševali, kako se spopasti z izjemno naraščajočo pandemijo v video prometu.

Ne samo to, v današnjih dneh morajo podatkovni centri obravnavati eksplozijo nestrukturiranih podatkov iz številnih delovnih obremenitev, kot so video konference, pretakanje vsebin, spletne igre in e-poslovanje. Številne od teh aplikacij so zelo občutljive na zakasnitev in zanje veljajo tudi nenehno razvijajoči se standardi za stiskanje, šifriranje in arhitekture baz podatkov.

To je podatkovne centre prisililo, da svojo infrastrukturo razširijo tako, da izpolnjujejo zahteve glede zmogljivosti in zakasnitve pri številnih zahtevnih delovnih obremenitvah, hkrati pa skušajo zmanjšati stroške in porabo energije. To se izkaže za zelo težko in prisili operaterje podatkovnih centrov, da premislijo o svoji trenutni arhitekturi in raziščejo nove konfiguracije, ki so po naravi bolj prilagodljive in učinkovite.

Trenutno ima večina podatkovnih centrov stojala s fiksnimi nabori virov, ki v enem strežniku združujejo SSD-je, CPU-je in pospeševalnike. Čeprav to zagotavlja visoko pasovno povezavo med izračunom in shranjevanjem, je zelo neučinkovito v smislu izkoriščenosti virov, saj je na vsakem strežniku določeno razmerje med pomnilnikom in izračuni. Ker delovne obremenitve zahtevajo drugačno kombinacijo računanja in shranjevanja, ostanejo otoki neuporabljenih virov v vsakem strežniku.

Sestavljiva infrastruktura

Pojavlja se nova arhitektura, ki obljublja, da bo bistveno izboljšala izrabo virov. Znana je kot "sestavljiva infrastruktura". Sestavljiva infrastruktura vključuje ločevanje vire in jih namesto tega združite in omogočite dostop do njih od koder koli. Kompostibilne infrastrukture omogočajo zagotavljanje delovnih obremenitev s pravo količino virov in hitro preoblikovanje s pomočjo programske opreme.

Sestavljiva arhitektura s skupinami CPU-jev, SSDS-jev in pospeševalnikov, ki so povezani v omrežje in jih nadzoruje standard, ki temelji na okviru zagotavljanja, obljublja močno izboljšano učinkovitost virov podatkovnega centra. V takšni arhitekturi imajo lahko različne delovne obremenitve različne zahteve glede računanja, shranjevanja in pospeševanja, zato bodo ti viri dodeljeni temu, ne da bi zapravili strojno opremo. Vse to v teoriji zveni odlično, v praksi pa obstaja eno veliko vprašanje: latenca.

Latency Challenge

Ko razčlenite vire in jih odmaknete bolj narazen, pride do več zamud in zmanjšane pasovne širine zaradi omrežnega prometa med CPU-ji in SSD-ji ali med CPU-ji in pospeševalniki. Če ne morete zmanjšati omrežnega prometa in učinkovito povezati virov, lahko to močno omejuje. Tu imajo FPGA tri glavne vloge pri reševanju izziva z zakasnitvijo:

• FPGA delujejo kot prilagodljivi pospeševalniki, ki jih je mogoče prilagoditi za vsako delovno obremenitev za največjo zmogljivost. 
• FPGA lahko račune tudi približajo podatkom, s čimer zmanjšajo zakasnitev in zmanjšajo zahtevano pasovno širino.
• Prilagodljiva, inteligentna struktura FPGA-jev omogoča učinkovito združevanje virov brez pretiranih zamud. 

Prilagodljivo pospeševanje

Prva pomembna prednost računalniških pospeševalnikov, ki temeljijo na FPGA, je dramatično izboljšana zmogljivost delovnih obremenitev, po katerih je danes veliko povpraševanje. V primerih uporabe video prekodiranja za aplikacije za pretakanje v živo rešitve FPGA običajno presežejo procesorje x86 za 30-krat, kar operaterjem podatkovnih centrov pomaga, da se spoprimejo z velikim povečanjem števila hkratnih tokov. Drug primer je na kritičnem področju genomskega zaporedja. Nedavna stranka za genomiko Xilinx je ugotovila, da je naš pospeševalnik na osnovi FPGA odgovor dal 90-krat hitreje kot CPU, kar je medicinskim raziskovalcem pomagalo pri testiranju vzorcev DNA v delčku časa, ki je bil potreben.

Premikanje računala bližje k podatkom

Druga ključna prednost FPGA-jev v sestavljivem podatkovnem središču je zmožnost približevanja prilagodljivih izračunov, bodisi v mirovanju bodisi v gibanju. Xilinx FPGA, ki se uporabljajo v računalniških napravah za shranjevanje SmartSSD, pospešujejo funkcije, kot so hitro iskanje, razčlenjevanje, stiskanje in šifriranje, ki jih običajno izvaja CPU. To pomaga razbremeniti CPU za bolj zapletena opravila, hkrati pa zmanjša promet med CPE in SSD-ji, s čimer se zmanjša poraba pasovne širine in zmanjša zakasnitev.

Podobno se naši FPGA zdaj uporabljajo v sistemih SmartNIC, kot je naš novi Alveo SN1000, za pospeševanje podatkov v gibanju s hitrostno obdelavo paketov, stiskanjem in kripto storitvami, pa tudi s sposobnostjo prilagajanja zahtevam preklopa po meri za določen podatkovni center ali stranko.   

Inteligentna tkanina

When you combine an FPGA’s adaptable compute acceleration with low-latency connectivity, you can go a step further in the composable data center.  You can assign a compute-heavy workload to a cluster of accelerators that are interconnected by an adaptable intelligent fabric - creating a high-performance computer on demand.

Seveda nič od tega ni mogoče, če računalniških pospeševalnikov, SmartSSD in SmartNIC ne morete programirati z optimalnimi algoritmi pospeševanja in jih nato zagotoviti v pravem številu za vsako delovno obremenitev. Za to nalogo smo zgradili obsežen paket programske opreme, ki uporablja panožne okvire, specifične za področje, kot sta TensorFlow in FFMPEG, ki delujejo v povezavi z našo razvojno platformo Vitis. Prav tako vidimo vlogo okvirov za zagotavljanje višje ravni, kot je RedFish, ki pomagajo pri inteligentnem dodeljevanju virov.

Prihodnost je zdaj

Obljuba sestavljenega podatkovnega centra je vznemirljiva sprememba, naprave Xilinx in pospeševalne kartice pa so ključni gradniki te nove učinkovite arhitekture. S hitro rekonfigurabilnostjo, nizko zakasnitvijo in prilagodljivo arhitekturo, ki se lahko prilagodi spreminjajočim se delovnim obremenitvam, je Xilinx dobro pozicioniran kot glavni akter v tej evoluciji.