एज पर एआई के लिए प्लेटफॉर्म चयन पर एक्रोनिक्स

कॉलिन अलेक्जेंडर (एक्रोनिक्स में उत्पाद विपणन निदेशक) ने हाल ही में इस विषय पर एक वेबिनार जारी किया। केवल 20 मिनट में वेबिनार एक आसान अवलोकन और डेटा ट्रैफ़िक और कार्यान्वयन विकल्पों पर एक उपयोगी अपडेट है। डाउनलोड पर अभी भी वीडियो का प्रभुत्व है (फेसबुक के लिए 50% से अधिक) जो अब किनारे पर या उसके करीब कैशिंग पर बहुत अधिक निर्भर करता है। इनमें से कौन सा लागू होता है यह "किनारे" की आपकी परिभाषा पर निर्भर करता है। IoT दुनिया खुद को किनारे के रूप में देखती है, क्लाउड और बुनियादी ढांचे की दुनिया स्पष्ट रूप से उन लीफ उपकरणों से पहले बुनियादी ढांचे में अंतिम कंप्यूट नोड को किनारे के रूप में देखती है। आलू, आलू. किसी भी स्थिति में किनारे का बुनियादी ढांचा दृश्य वह है जहां आपको वीडियो कैशिंग मिलेगी, ताकि सबसे लोकप्रिय डाउनलोड को कुशलतापूर्वक और जितनी जल्दी संभव हो सके प्रदान किया जा सके।

किनारे पर (और क्लाउड में) गणना विकल्प

कॉलिन शुरू में बुनियादी ढांचे की बढ़त के बारे में बात करते हैं जहां गणना और एआई में कुछ हॉर्सपावर की आवश्यकता होती है। वह मानक विकल्प प्रस्तुत करता है: सीपीयू, जीपीयू, एएसआईसी या एफपीजीए। सीपीयू-आधारित समाधान में सबसे अधिक लचीलापन होता है क्योंकि आपका समाधान पूरी तरह से सॉफ्टवेयर आधारित होगा। इसी कारण से, यह आम तौर पर सबसे धीमा, सबसे अधिक बिजली की खपत करने वाला और सबसे लंबे समय तक विलंबता वाला विकल्प होगा (मुझे लगता है कि लीफ नोड्स के लिए राउंड ट्रिप के लिए)। सीपीयू की तुलना में जीपीयू थोड़े कम लचीलेपन के साथ प्रदर्शन और शक्ति के मामले में कुछ हद तक बेहतर हैं। एक ASIC (कस्टम हार्डवेयर) सबसे तेज़, सबसे कम शक्ति और सबसे कम विलंबता वाला होगा, हालांकि अवधारणा में सबसे कम लचीला (सभी स्मार्ट हार्डवेयर में हैं जिन्हें बदला नहीं जा सकता)।

वह एफपीजीए (या एम्बेडेड एफपीजीए/ईएफपीजीए) को इन चरम सीमाओं के बीच एक अच्छे समझौते के रूप में प्रस्तुत करता है। सीपीयू या जीपीयू की तुलना में प्रदर्शन, शक्ति और विलंबता पर बेहतर और लचीलेपन पर सीपीयू और जीपीयू के बीच कहीं बेहतर है। जबकि लचीलेपन के मामले में ASIC से कहीं बेहतर है क्योंकि FPGA को दोबारा प्रोग्राम किया जा सकता है। जहाँ तक यह सब मेरे लिए मायने रखता है, हालाँकि मुझे लगता है कि कहानी को प्लेटफ़ॉर्म लाइन अप में डीएसपी जोड़कर पूरा किया जाना चाहिए था। इनमें एआई-विशिष्ट हार्डवेयर फायदे (वेक्टराइजेशन, मैक एरे इत्यादि) हो सकते हैं जो प्रदर्शन, शक्ति और विलंबता को लाभ पहुंचाते हैं। सॉफ़्टवेयर लचीलेपन को बरकरार रखते हुए। दूसरा महत्वपूर्ण विचार लागत है। बेशक यह हमेशा एक संवेदनशील विषय है लेकिन एआई सक्षम सीपीयू, जीपीयू और एफपीजीए डिवाइस महंगे हो सकते हैं, जो कि एज नोड की सामग्री के बिल के लिए चिंता का विषय है।

बड़े SoC में एम्बेडेड eFPGA के लिए कॉलिन का तर्क मेरे लिए सबसे अधिक मायने रखता है। क्लाउड एप्लिकेशन में, बाधाएं अलग-अलग होती हैं। एक स्मार्ट नेटवर्क इंटरफ़ेस कार्ड संभवतः मूल्य के प्रति उतना संवेदनशील नहीं है और सॉफ़्टवेयर-आधारित समाधान की तुलना में FPGA-आधारित समाधान में प्रदर्शन लाभ हो सकता है।

ईएफपीजीए के माध्यम से कंप्यूट एज पर एआई अनुप्रयोगों का समर्थन करना आगे की जांच के लायक एक विकल्प जैसा दिखता है। लीफ नोड्स की ओर आगे बढ़ना मेरे लिए अस्पष्ट है। एक लॉजिस्टिक्स ट्रैकर या मिट्टी की नमी सेंसर निश्चित रूप से महत्वपूर्ण गणना की मेजबानी नहीं करेगा, लेकिन एक आवाज सक्रिय टीवी रिमोट के बारे में क्या? या एक स्मार्ट माइक्रोवेव? दोनों को एआई की आवश्यकता है लेकिन किसी को भी बहुत अधिक अश्वशक्ति की आवश्यकता नहीं है। माइक्रोवेव में वायर्ड पावर होती है, लेकिन टीवी रिमोट या रिमोट स्मार्ट स्पीकर बैटरी पर चलता है। यहां ईएफपीजीए ट्रेडऑफ़्स को जानना दिलचस्प होगा।

एआई के लिए ईएफपीजीए क्षमताएं

डेटाशीट के अनुसार, स्पीडस्टर 7टी पूरी तरह से फ्रैक्चरेबल पूर्णांक एमएसी, लचीला फ्लोटिंग पॉइंट, बीफ्लोट के लिए मूल समर्थन और कुशल मैट्रिक्स गुणन प्रदान करता है। मुझे TOPS या TOPS/Watt पर कोई डेटा नहीं मिला। मुझे यकीन है कि यह कार्यान्वयन पर निर्भर करता है लेकिन उदाहरण उपयोगी होंगे। यहां तक ​​कि किनारे पर भी, कुछ एप्लिकेशन प्रदर्शन के प्रति बहुत संवेदनशील हैं - उदाहरण के लिए कारों में स्मार्ट निगरानी और आगे की ओर वस्तु का पता लगाना। यह जानना दिलचस्प होगा कि ईएफपीजीए ऐसे अनुप्रयोगों में कहां फिट हो सकता है।

विचारोत्तेजक वेबिनार। आप इसे देख सकते हैं यहाँ.

इस पोस्ट को इसके माध्यम से साझा करें:

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• स्रोत: https://semiwiki.com/efpga/323785-achronix-on-platform-selection-for-ai-at-the-edge/