Viitorul Adaptive Computing: Centrul de date Composable

Această postare de blog este extrasă din prezentarea principală a lui Salil Raje, EVP și GM Xilinx Data Center Group, dată pe 24 martie 2021, la Xilinx Adapt: ​​Data Center. Pentru a vedea la cerere prezentarea lui Salil, împreună cu o serie grozavă de prezentări ale experților din industrie, puteți înregistrează-te și vezi conținutul aici.

Cei mai mulți dintre noi încă se întâlnesc cu colegii noștri prin intermediul conferințelor video online, după schimbarea de paradigmă cauzată de pandemia COVID-19. Probabil că nu vă gândiți prea mult la ceea ce este nevoie pentru a transmite tot conținutul și fluxurile de la întâlnirile dvs. Dar dacă sunteți un operator de centre de date, probabil că nu ați dormit prea mult în ultimul an, îngrijorându-vă cum să faceți față creșterii pandemice fără precedent a traficului video.

Nu numai asta, dar centrele de date din zilele noastre trebuie să facă față unei explozii de date nestructurate dintr-o gamă largă de sarcini de lucru, cum ar fi conferințe video, conținut în flux, jocuri online și comerț electronic. Multe dintre aceste aplicații sunt foarte sensibile la latență și sunt, de asemenea, supuse standardelor în continuă evoluție pentru compresie, criptare și arhitecturi de baze de date.

Acest lucru a forțat centrele de date să își extindă infrastructura pentru a îndeplini cerințele de performanță și latență ale unei varietăți de sarcini de lucru solicitante, încercând în același timp să minimizeze costurile și consumul de energie. Acest lucru se dovedește a fi foarte dificil și îi obligă pe operatorii centrelor de date să-și regândească arhitectura actuală și să exploreze noi configurații care sunt în mod inerent mai scalabile și mai eficiente.

În prezent, majoritatea centrelor de date au rafturi cu seturi fixe de resurse, combinând SSD-uri, procesoare și acceleratoare într-un singur server. Deși acest lucru asigură o conexiune de lățime de bandă mare între calcul și stocare, este foarte ineficient în ceea ce privește utilizarea resurselor, deoarece există un raport fix de stocare și calcul pe fiecare server. Deoarece sarcinile de lucru necesită o combinație diferită de calcul și stocare, insule de resurse neutilizate rămân în fiecare server.

Infrastructură componabilă

Apare o nouă arhitectură care promite să facă o îmbunătățire dramatică în utilizarea resurselor. Este cunoscută drept „infrastructură componabilă”. Infrastructura componabilă presupune decuplare resurse și, în schimb, le punem în comun și le facem accesibile de oriunde. Infrastructurile componabile permit furnizarea sarcinilor de lucru cu cantitatea potrivită de resurse și reconfigurarea rapidă prin software.

O arhitectură componabilă cu grupuri de procesoare, SSDS și acceleratoare care sunt conectate împreună și controlate de un cadru de furnizare bazat pe standarde promite o eficiență mult îmbunătățită a resurselor centrului de date. Într-o astfel de arhitectură, sarcinile de lucru diferite ar putea avea cerințe diferite de calcul, stocare și accelerare, iar acele resurse vor fi alocate în consecință, fără a pierde hardware. Toate acestea sună grozav în teorie, dar în practică, există o mare problemă: Latența.

Provocarea latenței

Pe măsură ce dezagregați resursele și le depărtați, suferiți mai multe întârzieri și o lățime de bandă redusă din cauza traficului de rețea dintre procesoare și SSD-uri sau între procesoare și acceleratoare. Cu excepția cazului în care aveți o modalitate de a reduce traficul de rețea și de a interconecta resursele într-un mod eficient, acest lucru poate fi extrem de limitator. Aici FPGA joacă trei roluri majore în rezolvarea provocării latenței:

• FPGA-urile acționează ca acceleratoare adaptabile care pot fi personalizate pentru fiecare sarcină de lucru pentru performanță maximă. 
• De asemenea, FPGA-urile pot aduce calcularea mai aproape de date, reducând astfel latența și minimizând lățimea de bandă necesară.
• Țesătura adaptabilă și inteligentă a FPGA-urilor permite o punere în comun eficientă a resurselor fără a suporta întârzieri excesive. 

Accelerație adaptabilă

Primul avantaj semnificativ pentru acceleratoarele de calcul bazate pe FPGA este performanța îmbunătățită dramatic pentru sarcinile de lucru care sunt la mare căutare în zilele noastre. În cazurile de utilizare a transcodării video pentru aplicațiile de streaming live, soluțiile FPGA depășesc de obicei procesoarele x86 de 30 ori, ceea ce îi ajută pe operatorii centrelor de date să facă față creșterii uriașe a numărului de fluxuri simultane. Un alt exemplu este în domeniul critic al secvențierii genomice. Un client recent de genomice Xilinx a descoperit că acceleratorul nostru bazat pe FPGA a furnizat răspunsul de 90 de ori mai rapid decât un procesor, ajutând cercetătorii medicali să testeze mostre de ADN într-o fracțiune din timpul necesar.

Mutarea calculatoarelor mai aproape de date

Al doilea avantaj cheie pentru FPGA într-un centru de date composabil este capacitatea de a aduce calcularea adaptabilă aproape de date, indiferent dacă sunt în repaus sau în mișcare. FPGA-urile Xilinx utilizate în dispozitivele de stocare de calcul SmartSSD accelerează funcții precum căutarea de mare viteză, analizarea, compresia și criptarea, care sunt de obicei efectuate de un procesor. Acest lucru ajută la descărcarea procesorului pentru sarcini mai complexe, dar reduce și traficul dintre CPU și SSD-uri, reducând astfel consumul de lățime de bandă și reducând latența.

În mod similar, FPGA-urile noastre sunt acum utilizate în SmartNIC-uri, cum ar fi noul nostru Alveo SN1000, pentru a accelera datele în mișcare cu servicii de procesare, compresie și criptografie a pachetelor cu viteză de fir, precum și capacitatea de a se adapta la cerințele de comutare personalizate pentru un anumit centru de date sau client.   

Tesatura inteligenta

Când combinați accelerația de calcul adaptabilă a unui FPGA cu conectivitate cu latență scăzută, puteți face un pas mai departe în centrul de date composabil. Puteți atribui o sarcină de lucru grea de calcul unui grup de acceleratoare care sunt interconectate printr-o țesătură inteligentă adaptabilă - creând un computer de înaltă performanță la cerere.

Desigur, nimic din toate acestea nu este posibil dacă nu puteți programa acceleratoarele de calcul, SmartSSD-urile și SmartNIC-urile cu algoritmii optimi de accelerare și apoi furnizați-le în numerele potrivite pentru fiecare sarcină de lucru. Pentru această sarcină, am construit o stivă de software cuprinzătoare care folosește cadrele industriale specifice domeniului, cum ar fi TensorFlow și FFMPEG, care funcționează împreună cu platforma noastră de dezvoltare Vitis. De asemenea, vedem un rol pentru cadrele de furnizare de nivel superior, cum ar fi RedFish, pentru a ajuta la alocarea inteligentă a resurselor.

Viitorul este acum

Promisiunea centrului de date composabil este o schimbare interesantă, iar dispozitivele Xilinx și cardurile de accelerare sunt elementele cheie ale acestei noi arhitecturi eficiente. Cu o reconfigurabilitate rapidă, o latență scăzută și o arhitectură flexibilă care se poate adapta la sarcinile de lucru în schimbare, Xilinx este bine poziționat pentru a fi un jucător major în această evoluție.