चिपलेट विषमता और पाइपलाइनिंग के साथ उन्नत शेड्यूलिंग

कैलिफ़ोर्निया इरविन विश्वविद्यालय के शोधकर्ताओं द्वारा "इंटर-लेयर शेड्यूलिंग स्पेस एक्सप्लोरेशन फॉर मल्टी-मॉडल इंफ़ेक्शन ऑन हेटेरोजेनियस चिपलेट्स" नामक एक तकनीकी पेपर प्रकाशित किया गया था।

सार:

“बड़े भाषा मॉडल जैसे भारी मॉडल के साथ हाल के मल्टी-मॉडल वर्कलोड से बढ़ती गणना मांग को संबोधित करने के लिए, हम विषम चिपलेट-आधारित मल्टी-चिप मॉड्यूल (एमसीएम)-आधारित त्वरक को तैनात करने का प्रस्ताव करते हैं। हम विषम एमसीएम त्वरक के लिए एक उन्नत शेड्यूलिंग ढांचा विकसित करते हैं जो जटिल विविधता और अंतर-चिपलेट पाइपलाइनिंग पर व्यापक रूप से विचार करता है। 2-चिपलेट सिस्टम पर GPT-50 और ResNet-4 मॉडल पर हमारे फ्रेमवर्क का उपयोग करने वाले हमारे प्रयोगों ने अनुकूलित आउटपुट-स्टेशनरी डेटाफ्लो के साथ एक मोनोलिथिक एक्सेलेरेटर की तुलना में थ्रूपुट और ऊर्जा दक्षता में 2.2x और 1.9x तक की वृद्धि देखी है।

खोज तकनीकी कागज यहाँ। दिसंबर 2023 (प्रीप्रिंट) प्रकाशित।

ओडेमा, मोहनाद, ह्युकजुन क्वोन, और मोहम्मद अब्दुल्ला अल फारूक। "विषम चिपलेट्स पर मल्टी-मॉडल अनुमान के लिए इंटर-लेयर शेड्यूलिंग स्पेस एक्सप्लोरेशन।" arXiv प्रीप्रिंट arXiv:2312.09401 (2023)।

संबंधित पढ़ना
चिपलेट्स: 2023 (ईबुक)
चिपलेट क्या हैं, आज उनका उपयोग किस लिए किया जा रहा है और भविष्य में उनका उपयोग किस लिए किया जाएगा।
वाणिज्यिक चिपलेट्स की तैयारी
क्या कमी है, क्या परिवर्तन चल रहे हैं, और चिपलेट्स की आवश्यकता क्यों बढ़ती जा रही है, इस पर एक विशेषज्ञ चर्चा।

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://semiengineering.com/chiplet-heterogeneity-and-advanced-scheduling-with-pipelining/