Az adaptív számítástechnika jövője: az összeállítható adatközpont

Ez a blogbejegyzés kivonat Salil Raje, az EVP és a GM Xilinx Data Center Group 24. március 2021-én a Xilinx Adapt: ​​Data Centerben tartott vitaindító előadásából. Ha igény szerint szeretné megtekinteni Salil vitaindítóját, valamint az iparági szakértők prezentációit, regisztrálj és nézd meg a tartalmat itt.

A COVID-19 világjárvány okozta paradigmaváltás után legtöbben még mindig online videokonferenciákon találkozunk munkatársainkkal. Valószínűleg nem sokat gondolkodik azon, hogy mi kell ahhoz, hogy az értekezletekből származó összes tartalmat és hírfolyamot streamelje. De ha Ön adatközpont-üzemeltető, valószínűleg nem aludt sokat az elmúlt évben, és azon aggódott, hogyan kezelje a videoforgalom példátlan, járványszerű megugrását.

Nem csak ez, hanem az adatközpontoknak manapság a strukturálatlan adatok robbanásszerű mennyiségét kell kezelniük a munkaterhelések széles skálájából, például a videokonferenciákból, a streaming tartalmakból, az online játékokból és az e-kereskedelemből. Ezen alkalmazások közül sok nagyon érzékeny a késleltetésre, és a tömörítési, titkosítási és adatbázis-architektúrák folyamatosan fejlődő szabványai is vonatkoznak rájuk.

Ez arra kényszerítette az adatközpontokat, hogy bővítsék infrastruktúrájukat, hogy megfeleljenek a különféle nagy igénybevételt jelentő munkaterhelések teljesítmény- és késleltetési követelményeinek, ugyanakkor igyekezzenek minimalizálni a költségeket és az energiafogyasztást. Ez nagyon nehéznek bizonyul, és arra kényszeríti az adatközpontok üzemeltetőit, hogy újragondolják jelenlegi architektúrájukat, és olyan új konfigurációkat fedezzenek fel, amelyek eleve skálázhatóbbak és hatékonyabbak.

Jelenleg a legtöbb adatközpont fix erőforráskészlettel rendelkező állványokkal rendelkezik, amelyek egyetlen szerverben egyesítik az SSD-ket, a CPU-kat és a gyorsítókat. Noha ez nagy sávszélességű kapcsolatot biztosít a számítás és a tárolás között, az erőforrás-kihasználás szempontjából nagyon nem hatékony, mivel minden szerveren rögzített a tárolás és a számítás aránya. Mivel a munkaterhelések eltérő számítási és tárolási keveréket igényelnek, a fel nem használt erőforrások szigetei maradnak az egyes kiszolgálókon.

Összeállítható infrastruktúra

Egy új architektúra van kialakulóban, amely az erőforrás-felhasználás drámai javulását ígéri. Ez „összeállítható infrastruktúra” néven ismert. Összeállítható infrastruktúra magában foglalja függetlenítés erőforrásokat, és ehelyett összevonja őket, és bárhonnan elérhetővé tesszük őket. Az összeállítható infrastruktúrák lehetővé teszik a munkaterhelések megfelelő mennyiségű erőforrással történő biztosítását, valamint a szoftveren keresztüli gyors újrakonfigurálást.

A CPU-kból, SSDS-ből és gyorsítókból álló, összeállítható architektúra, amelyek hálózatba vannak kötve és szabványos kiépítési keretrendszerrel vezérelhetők, jelentősen megnövelt adatközponti erőforrás-hatékonyságot ígér. Egy ilyen architektúrában a különböző munkaterhelésekhez eltérő számítási, tárolási és gyorsítási követelmények vonatkozhatnak, és ezek az erőforrások ennek megfelelően kerülnek kiosztásra, anélkül, hogy a hardver elpazarolna. Mindez elméletben jól hangzik, de a gyakorlatban van egy nagy probléma: a késleltetés.

A késleltetési kihívás

Az erőforrások lebontásával és egymástól távolabbi elmozdításával több késedelem és csökken a sávszélesség a CPU-k és az SSD-k, illetve a CPU-k és a gyorsítók közötti hálózati forgalom miatt. Hacsak nincs mód a hálózati forgalom csökkentésére és az erőforrások hatékony összekapcsolására, ez súlyosan korlátozhatja. Itt az FPGA-k három fő szerepet játszanak a késleltetési kihívás megoldásában:

• Az FPGA-k adaptálható gyorsítóként működnek, amelyek minden munkaterheléshez testreszabhatók a maximális teljesítmény érdekében. 
• Az FPGA-k a számítást is közelebb vihetik az adatokhoz, ezáltal csökkentve a késleltetést és minimalizálva a szükséges sávszélességet.
• Az FPGA-k alkalmazkodó, intelligens szerkezete lehetővé teszi az erőforrások hatékony összevonását túlzott késedelem nélkül. 

Alkalmazkodó gyorsulás

Az FPGA-alapú számításgyorsítók első jelentős előnye a drámaian megnövekedett teljesítmény a manapság nagy keresletet igénylő munkaterhelések esetén. Az élő streaming alkalmazások videó-átkódolásának felhasználási eseteiben az FPGA-megoldások jellemzően 86-szoros teljesítményt nyújtanak az x30-os CPU-knál, ami segít az adatközpont-üzemeltetőknek megbirkózni az egyidejű adatfolyamok számának hatalmas növekedésével. Egy másik példa a genomi szekvenálás kritikus területe. Egy közelmúltbeli Xilinx genomics ügyfelünk azt találta, hogy FPGA-alapú gyorsítónk 90-szer gyorsabban adta meg a választ, mint egy CPU, így az orvoskutatók az idő töredéke alatt tesztelték a DNS-mintákat.

A számítások közelebb kerülése az adatokhoz

Az FPGA-k második kulcsfontosságú előnye az összeállítható adatközpontokban az, hogy az adaptálható számításokat az adatokhoz közel hozzák, akár nyugalomban, akár mozgásban. A SmartSSD számítási tárolóeszközökben használt Xilinx FPGA-k felgyorsítják az olyan funkciókat, mint a nagy sebességű keresés, elemzés, tömörítés és titkosítás, amelyeket általában egy CPU hajt végre. Ez segít tehermentesíteni a CPU-t az összetettebb feladatokhoz, de csökkenti a CPU és az SSD-k közötti forgalmat is, ezáltal csökkenti a sávszélesség-fogyasztást és a késleltetést.

Hasonlóképpen, FPGA-jainkat immár SmartNIC-ekben, például az új Alveo SN1000-ben is használják, hogy felgyorsítsák a mozgásban lévő adatokat vezetékes csomagfeldolgozási, tömörítési és titkosítási szolgáltatásokkal, valamint egy adott adatközpont vagy ügyfél egyéni kapcsolási követelményeihez való alkalmazkodás képességével.   

Intelligens szövet

When you combine an FPGA’s adaptable compute acceleration with low-latency connectivity, you can go a step further in the composable data center.  You can assign a compute-heavy workload to a cluster of accelerators that are interconnected by an adaptable intelligent fabric – creating a high-performance computer on demand.

Természetesen mindez nem lehetséges, ha a számítási gyorsítókat, a SmartSSD-ket és a SmartNIC-eket nem tudod az optimális gyorsítási algoritmusokkal programozni, majd minden terheléshez megfelelő számban ellátni. Ehhez a feladathoz egy átfogó szoftvercsomagot építettünk, amely olyan domain-specifikus iparági keretrendszereket használ, mint a TensorFlow és az FFMPEG, amelyek a Vitis fejlesztői platformunkkal együtt működnek. A magasabb szintű kiépítési keretrendszerek, például a RedFish szerepét is látjuk az intelligens erőforrás-elosztásban.

A jövő most van

Az összeállítható adatközpont ígérete izgalmas változás, és a Xilinx eszközök és gyorsítókártyák kulcsfontosságú építőkövei ennek az új hatékony architektúrának. A gyors újrakonfigurálhatóság, az alacsony késleltetés és a változó munkaterheléshez alkalmazkodó rugalmas architektúra révén a Xilinx jó helyzetben van ahhoz, hogy ebben a fejlődésben jelentős szereplő legyen.

Forrás: https://forums.xilinx.com/t5/Xilinx-Xclusive-Blog/The-Future-of-Adaptive-Computing-The-Composable-Data-Center/ba-p/1221927