अनुकूली कंप्यूटिंग का भविष्य: कंपोज़ेबल डेटा सेंटर

यह ब्लॉग पोस्ट 24 मार्च, 2021 को Xilinx एडाप्ट: डेटा सेंटर में दी गई सलिल राजे, ईवीपी और जीएम Xilinx डेटा सेंटर ग्रुप की मुख्य प्रस्तुति से लिया गया है। उद्योग विशेषज्ञों की प्रस्तुतियों की एक बड़ी श्रृंखला के साथ, सलिल के मुख्य वक्ता को ऑन-डिमांड देखने के लिए, आप यह कर सकते हैं यहां रजिस्टर करें और सामग्री देखें।

हममें से अधिकांश लोग कोविड-19 महामारी के कारण आए बदलाव के बाद भी अपने सहकर्मियों के साथ ऑनलाइन वीडियो कॉन्फ्रेंसिंग के माध्यम से मिल रहे हैं। आप शायद इस बारे में ज्यादा नहीं सोच रहे हैं कि आपकी बैठकों से सभी सामग्री और फ़ीड को स्ट्रीम करने में क्या लगता है। लेकिन यदि आप एक डेटा सेंटर ऑपरेटर हैं तो संभवत: आपको पिछले एक साल में इस चिंता में पर्याप्त नींद नहीं मिली होगी कि वीडियो ट्रैफ़िक में अभूतपूर्व महामारी वृद्धि को कैसे संभाला जाए।

इतना ही नहीं, बल्कि डेटा केंद्रों को इन दिनों वीडियो कॉन्फ्रेंसिंग, स्ट्रीमिंग सामग्री, ऑनलाइन गेमिंग और ई-कॉमर्स जैसे कार्यभार की एक विस्तृत श्रृंखला से असंरचित डेटा के विस्फोट को संभालना होगा। इनमें से कई एप्लिकेशन विलंबता के प्रति बहुत संवेदनशील हैं और संपीड़न, एन्क्रिप्शन और डेटाबेस आर्किटेक्चर के लिए लगातार विकसित हो रहे मानकों के अधीन भी हैं।

इसने डेटा केंद्रों को विभिन्न प्रकार के मांग वाले कार्यभार के प्रदर्शन और विलंबता आवश्यकताओं को पूरा करने के लिए अपने बुनियादी ढांचे को बढ़ाने के लिए मजबूर किया है, साथ ही लागत और बिजली की खपत को कम करने की कोशिश की है। यह बहुत कठिन साबित हो रहा है, और यह डेटा सेंटर ऑपरेटरों को अपने वर्तमान आर्किटेक्चर पर पुनर्विचार करने और नए कॉन्फ़िगरेशन का पता लगाने के लिए मजबूर कर रहा है जो स्वाभाविक रूप से अधिक स्केलेबल और कुशल हैं।

वर्तमान में, अधिकांश डेटा केंद्रों में संसाधनों के निश्चित सेट के साथ रैक होते हैं, जो एक ही सर्वर में एसएसडी, सीपीयू और एक्सेलेरेटर को जोड़ते हैं। हालाँकि यह कंप्यूट और स्टोरेज के बीच एक उच्च बैंडविड्थ कनेक्शन सुनिश्चित करता है, लेकिन संसाधन उपयोग के मामले में यह बहुत अक्षम है, क्योंकि हर सर्वर में स्टोरेज और कंप्यूट का एक निश्चित अनुपात होता है। चूंकि कार्यभार के लिए गणना और भंडारण के एक अलग मिश्रण की आवश्यकता होती है, प्रत्येक सर्वर में अप्रयुक्त संसाधनों के द्वीप छोड़ दिए जाते हैं।

कंपोज़ेबल इन्फ्रास्ट्रक्चर

एक नई वास्तुकला उभर रही है जो संसाधन उपयोग में नाटकीय सुधार लाने का वादा करती है। इसे "कंपोज़ेबल इंफ्रास्ट्रक्चर" के रूप में जाना जाता है। कंपोज़ेबल इंफ्रास्ट्रक्चर शामिल है decoupling संसाधनों को एक साथ एकत्रित करना और उन्हें कहीं से भी पहुंच योग्य बनाना। कंपोज़ेबल इन्फ्रास्ट्रक्चर सही मात्रा में संसाधनों के साथ वर्कलोड का प्रावधान करने और सॉफ्टवेयर के माध्यम से तेजी से पुनर्संरचना करने में सक्षम बनाता है।

सीपीयू, एसएसडीएस और एक्सेलेरेटर के पूल के साथ एक कंपोज़ेबल आर्किटेक्चर जो एक साथ नेटवर्क किया गया है और एक मानक-आधारित प्रावधान ढांचे द्वारा नियंत्रित किया जाता है, डेटा सेंटर संसाधन दक्षता में काफी सुधार का वादा करता है। ऐसी वास्तुकला में, अलग-अलग कार्यभार में अलग-अलग गणना, भंडारण और त्वरण आवश्यकताएं हो सकती हैं, और उन संसाधनों को बिना किसी बर्बाद हार्डवेयर के तदनुसार सौंपा जाएगा। सिद्धांत रूप में यह सब बहुत अच्छा लगता है, लेकिन व्यवहार में, एक बड़ा मुद्दा है: विलंबता।

विलंबता चुनौती

जैसे-जैसे आप संसाधनों को अलग-अलग करते हैं और उन्हें दूर-दूर ले जाते हैं, आपको सीपीयू और एसएसडी के बीच, या सीपीयू और एक्सेलेरेटर के बीच नेटवर्क ट्रैफिक के कारण अधिक देरी और कम बैंडविड्थ का सामना करना पड़ता है। जब तक आपके पास नेटवर्क ट्रैफ़िक को कम करने और संसाधनों को कुशल तरीके से आपस में जोड़ने का कोई तरीका नहीं है, यह गंभीर रूप से सीमित हो सकता है। यहीं पर FPGAs विलंबता चुनौती को हल करने में तीन प्रमुख भूमिकाएँ निभाते हैं:

• एफपीजीए अनुकूलनीय त्वरक के रूप में कार्य करते हैं जिन्हें अधिकतम प्रदर्शन के लिए प्रत्येक कार्यभार के लिए अनुकूलित किया जा सकता है। 
• FPGAs गणना को डेटा के करीब भी ला सकते हैं, जिससे विलंबता कम हो सकती है और आवश्यक बैंडविड्थ कम हो सकती है।
• एफपीजीए का अनुकूलनीय, बुद्धिमान ढांचा अत्यधिक देरी के बिना संसाधनों के कुशल पूलिंग को सक्षम बनाता है। 

अनुकूलनीय त्वरण

एफपीजीए-आधारित गणना त्वरक के लिए पहला महत्वपूर्ण लाभ उन कार्यभार के लिए नाटकीय रूप से बेहतर प्रदर्शन है जो इन दिनों उच्च मांग में हैं। लाइव स्ट्रीमिंग अनुप्रयोगों के लिए वीडियो ट्रांसकोडिंग उपयोग के मामलों में, एफपीजीए समाधान आम तौर पर x86 सीपीयू से 30 गुना बेहतर प्रदर्शन करते हैं, जो डेटा सेंटर ऑपरेटरों को एक साथ स्ट्रीम की संख्या में भारी वृद्धि को पूरा करने में मदद करता है। एक अन्य उदाहरण जीनोमिक अनुक्रमण के महत्वपूर्ण क्षेत्र में है। हाल ही में Xilinx जीनोमिक्स के एक ग्राहक ने पाया कि हमारे FPGA-आधारित त्वरक ने सीपीयू की तुलना में 90 गुना तेजी से उत्तर दिया, जिससे चिकित्सा शोधकर्ताओं को डीएनए नमूनों का परीक्षण करने में लगने वाले समय के एक अंश में मदद मिली।

कंप्यूट को डेटा के करीब ले जाना

कंपोजेबल डेटा सेंटर में एफपीजीए के लिए दूसरा मुख्य लाभ अनुकूलनीय गणना को डेटा के करीब लाने की क्षमता है, चाहे वह आराम से हो या गति में। स्मार्टएसएसडी कम्प्यूटेशनल स्टोरेज डिवाइस में उपयोग किए जाने वाले Xilinx FPGAs उच्च गति खोज, पार्सिंग, संपीड़न और एन्क्रिप्शन जैसे कार्यों को तेज करते हैं, जो आमतौर पर सीपीयू द्वारा किए जाते हैं। यह अधिक जटिल कार्यों के लिए सीपीयू को ऑफलोड करने में मदद करता है लेकिन सीपीयू और एसएसडी के बीच ट्रैफिक को भी कम करता है, जिससे बैंडविड्थ की खपत कम हो जाती है और विलंबता कम हो जाती है।

इसी तरह, हमारे FPGAs का उपयोग अब हमारे नए Alveo SN1000 जैसे स्मार्टएनआईसी में किया जाता है ताकि वायर-स्पीड पैकेट प्रोसेसिंग, संपीड़न और क्रिप्टो सेवाओं के साथ-साथ किसी विशेष डेटा सेंटर या ग्राहक के लिए कस्टम स्विचिंग आवश्यकताओं को अनुकूलित करने की क्षमता के साथ गति में डेटा को तेज किया जा सके।   

बुद्धिमान कपड़ा

जब आप एफपीजीए के अनुकूलनीय कंप्यूट त्वरण को कम-विलंबता कनेक्टिविटी के साथ जोड़ते हैं, तो आप कंपोज़ेबल डेटा सेंटर में एक कदम आगे जा सकते हैं। आप त्वरक के एक समूह को एक कंप्यूट-भारी कार्यभार सौंप सकते हैं जो एक अनुकूलनीय बुद्धिमान फैब्रिक द्वारा परस्पर जुड़े हुए हैं - मांग पर एक उच्च-प्रदर्शन वाला कंप्यूटर बनाते हैं।

बेशक, इनमें से कुछ भी संभव नहीं है यदि आप इष्टतम त्वरण एल्गोरिदम के साथ गणना त्वरक, स्मार्टएसएसडी और स्मार्टएनआईसी को प्रोग्राम नहीं कर सकते हैं, और फिर उन्हें प्रत्येक वर्कलोड के लिए सही संख्या में प्रावधान नहीं कर सकते हैं। उस कार्य के लिए, हमने एक व्यापक सॉफ़्टवेयर स्टैक बनाया है जो TensorFlow और FFMPEG जैसे डोमेन-विशिष्ट उद्योग ढांचे का लाभ उठाता है, जो हमारे Vitis विकास प्लेटफ़ॉर्म के साथ मिलकर काम करते हैं। हम बुद्धिमान संसाधन आवंटन में सहायता के लिए रेडफिश जैसे उच्च-स्तरीय प्रावधान ढांचे की भी भूमिका देखते हैं।

भविष्य अब यह है कि

कंपोज़ेबल डेटा सेंटर का वादा एक रोमांचक बदलाव है और Xilinx डिवाइस और एक्सेलेरेटर कार्ड इस नए कुशल आर्किटेक्चर के लिए महत्वपूर्ण बिल्डिंग ब्लॉक हैं। तेजी से पुनर्संरचना, कम विलंबता और एक लचीली वास्तुकला के साथ जो बदलते कार्यभार के अनुकूल हो सकती है, Xilinx इस विकास में एक प्रमुख खिलाड़ी बनने के लिए अच्छी स्थिति में है।