माइक्रोसॉफ्ट ने कंपाइलर्स की 'हेवी मेटल चौकड़ी' के साथ एआई दक्षता को बढ़ाया - डिक्रिप्ट

माइक्रोसॉफ्ट ने कंपाइलर्स की 'हेवी मेटल चौकड़ी' के साथ एआई दक्षता को बढ़ाया - डिक्रिप्ट

समय टिकट: 6 सितंबर, 2023 3:01 पूर्वाह्न
स्रोत नोड: 2865461

माइक्रोसॉफ्ट ने विभिन्न एआई मॉडल के प्रदर्शन को अनुकूलित करने के लिए डिज़ाइन किए गए चार नए कृत्रिम बुद्धिमत्ता कंपाइलरों के एक सूट का अनावरण किया है। अत्याधुनिक संकलन उपकरणों की "भारी धातु चौकड़ी" के नाम रैमर, रोलर, वेल्डर और ग्राइंडर हैं।

ये उपकरण कई शैक्षणिक संस्थानों के सहयोग से माइक्रोसॉफ्ट रिसर्च द्वारा विकसित किए गए थे। वे संकलित करने के लिए उन्नत समाधान प्रदान करते हैं - मूल रूप से स्रोत कोड (मानव पठनीय) से मशीन कोड (एक और शून्य का एक समूह जो कंप्यूटर को निष्पादन योग्य बनाता है) में परिवर्तन - मुख्यधारा एआई मॉडल और उन्हें जीपीयू जैसे हार्डवेयर त्वरक पर अधिक कुशलता से चलाने के लिए।

In a Microsoft Research ब्लॉग पोस्ट highlighting their capabilities, the company says the compilers build on Microsoft’s extensive research and development in artificial intelligence.

एमएसआर एशिया के प्रमुख शोधकर्ता जिलॉन्ग ज़ू ने लिखा, "हमारे द्वारा विकसित किए गए एआई कंपाइलरों ने एआई संकलन दक्षता में पर्याप्त सुधार दिखाया है, जिससे एआई मॉडल के प्रशिक्षण और तैनाती में आसानी हुई है।" "भविष्य में, ये बड़े पैमाने के मॉडल स्वयं अनुकूलन और संकलन प्राप्त करने में स्वाभाविक रूप से सहायता कर सकते हैं।"

चार नए कंपाइलर एआई वर्कलोड को अनुकूलित करने में अलग-अलग चुनौतियों से निपटते हैं।

बेलन focuses on maximizing hardware parallelism—the capacity of hardware to do different things simoultaneously. This is a key factor in performance, and Rammer minimizes runtime scheduling overhead through improved utilization of parallel resources.

रोलर takes a different approach to accelerate compilation, using a fast construction algorithm to find solutions, ultimately generating optimized kernels in seconds rather than hours. In other words, Roller helps create efficient computer programs for AI faster by simplifying the design process.

वेल्डर reduces expensive memory access traffic by connecting operators in a concentrated pipeline. It unifies memory optimizations into a single framework for greater efficiency.

अंत में, चक्की enables control-flow execution on accelerators by integrating it with data flow. This allows optimization across control flow boundaries. Think of it like an expert guiding the steps of an apprentice, telling them what to do to get the job done faster.

As one of the leading technology giants, Microsoft has been at the forefront of AI advancement. The company has partnered closely with AI research firm OpenAI on large language models like GPT-3.5 and GPT-4, which powers ChatGPT and Bing Chat. More recently, Microsoft मेटा के साथ भागीदारी की to integrate LLaMA-2 in its cloud computing solution and introduced a technique called the विचारों का एल्गोरिदम to enhance reasoning in models like ChatGPT.

परीक्षण में पाया गया कि कंपाइलरों ने बेंचमार्क पर मौजूदा समाधानों से काफी बेहतर प्रदर्शन किया। रैमर ने जीपीयू पर अन्य कंपाइलर्स को 20 गुना तक पीछे छोड़ दिया। परिमाण के क्रम से संकलन समय को कम करते हुए रोलर ने अत्याधुनिक प्रदर्शन का मिलान किया या उससे आगे निकल गया। वेल्डर ने GPU पर PyTorch जैसे फ्रेमवर्क को 21 गुना तक पीछे छोड़ दिया। 8x तक नियंत्रण प्रवाह के साथ ग्राइंडर त्वरित मॉडल।

The heavy metal quartet demonstrates Microsoft’s continued leadership in designing breakthrough AI systems —and coming up with fun names for its products. While big partnerships in the AI space like the one with OpenAI grab headlines, the company also actively develops vital software infrastructure to empower AI behind the scenes.

मौजूदा समाधानों की तुलना में बड़े प्रदर्शन लाभ के साथ, रैमर, रोलर, वेल्डर और ग्राइंडर अधिक जटिल एआई वर्कलोड उभरने पर प्रमुख प्रतिस्पर्धी लाभ प्रदान कर सकते हैं।

क्रिप्टो समाचारों के शीर्ष पर रहें, अपने इनबॉक्स में दैनिक अपडेट प्राप्त करें।

समय टिकट:

से अधिक डिक्रिप्ट