मेटा एएमडी, एनवीडिया जीपीयू के साथ कस्टम एआई चिप्स तैनात करेगा

प्लेटो द्वारा पुनर्प्रकाशित

अनुयायियों: 0

वर्षों के विकास के बाद, मेटा अंततः इस वर्ष अपने घरेलू एआई एक्सेलेरेटर को सार्थक तरीके से पेश कर सकता है।

फेसबुक साम्राज्य ने इस सप्ताह अपने मेटा ट्रेनिंग इन्फेरेंस एक्सेलेरेटर (एमटीआईए) परिवार के चिप्स के साथ एनवीडिया एच100 और एएमडी एमआई300एक्स जीपीयू की तैनाती को पूरक करने की अपनी इच्छा की पुष्टि की। विशेष रूप से, मेटा एक अनुमान-अनुकूलित प्रोसेसर तैनात करेगा, कथित तौर पर इसका कोडनेम आर्टेमिस रखा गया, सिलिकॉन वैली की दिग्गज कंपनी के प्रथम-जीन भागों पर आधारित छेड़ा पिछले साल।

मेटा के एक प्रवक्ता ने बताया, "हम एमटीआईए के साथ अपने इन-हाउस सिलिकॉन प्रयासों में हुई प्रगति से उत्साहित हैं और 2024 में उत्पादन में अपने अनुमान संस्करण को तैनात करना शुरू करने की राह पर हैं।" रजिस्टर गुरुवार को.

प्रतिनिधि ने जारी रखा, "हम अपने आंतरिक रूप से विकसित त्वरक को मेटा-विशिष्ट वर्कलोड पर प्रदर्शन और दक्षता का इष्टतम मिश्रण प्रदान करने में व्यावसायिक रूप से उपलब्ध जीपीयू के अत्यधिक पूरक के रूप में देखते हैं।" विवरण? नहीं। प्रवक्ता ने हमें बताया: "हम इस वर्ष के अंत में अपनी भविष्य की एमटीआईए योजनाओं पर अधिक अपडेट साझा करने के लिए उत्सुक हैं।"

हम इसका मतलब यह मान रहे हैं कि दूसरी पीढ़ी की अनुमान-केंद्रित चिप व्यापक रूप से चल रही है, जो अनुमान के लिए पहली पीढ़ी के प्रयोगशाला-केवल संस्करण का अनुसरण कर रही है, और हम बाद में मुख्य रूप से प्रशिक्षण या प्रशिक्षण और अनुमान के लिए इच्छित भागों के बारे में पता लगा सकते हैं।

मेटा एनवीडिया और एएमडी के सबसे अच्छे ग्राहकों में से एक बन गया है क्योंकि एआई वर्कलोड की तैनाती बढ़ गई है, इसकी मशीन-लर्निंग सॉफ़्टवेयर को यथासंभव तेज़ चलाने के लिए विशेष सिलिकॉन की आवश्यकता और उपयोग में वृद्धि हुई है। इस प्रकार, इंस्टाग्राम दिग्गज का अपना स्वयं का कस्टम प्रोसेसर विकसित करने का निर्णय बिल्कुल आश्चर्यजनक नहीं है।

वास्तव में, मेगा-कॉर्प, वास्तविक दुनिया में तैनाती के मामले में कस्टम एआई सिलिकॉन पार्टी के लिए अपेक्षाकृत देर से है। अमेज़ॅन और Google कुछ वर्षों से आंतरिक मशीन-लर्निंग सिस्टम, जैसे अनुशंसित मॉडल और ग्राहक एमएल कोड में तेजी लाने के लिए घरेलू घटकों का उपयोग कर रहे हैं। इस बीच, माइक्रोसॉफ्ट ने पिछले साल अपने घरेलू एक्सेलेरेटर का खुलासा किया।

लेकिन इस तथ्य से परे कि मेटा बड़े पैमाने पर एमटीआईए इंट्रेंस चिप को रोल आउट कर रहा है, सोशल नेटवर्क ने अपने सटीक आर्किटेक्चर का खुलासा नहीं किया है और न ही यह बताया है कि यह इन-हाउस सिलिकॉन के लिए कौन सा वर्कलोड आरक्षित कर रहा है और जिसे यह एएमडी और एनवीडिया के जीपीयू पर लोड कर रहा है।

यह संभव है कि मेटा अधिक गतिशील या विकसित अनुप्रयोगों के लिए GPU संसाधनों को मुक्त करने के लिए अपने कस्टम ASIC पर स्थापित मॉडल चलाएगा। हमने डेटा को लोड करने और गहन वीडियो वर्कलोड की गणना करने के लिए डिज़ाइन किए गए कस्टम एक्सेलेरेटर के साथ मेटा को पहले भी इस मार्ग पर जाते देखा है।

अंतर्निहित डिज़ाइन के लिए, सेमीएनालिसिस के उद्योग पर नजर रखने वालों ने हमें बताया कि नई चिप मेटा के पहले-जीन भागों में वास्तुकला पर आधारित है।

कदम पत्थर

तीन साल के विकास के बाद 2023 की शुरुआत में मेटा के MTIA v1 पार्ट्स की घोषणा की गई, जो हमारे मित्र हैं अगला प्लेटफार्म पर देखा पिछले वसंत में, विशेष रूप से गहन-शिक्षण अनुशंसा मॉडल को ध्यान में रखकर डिज़ाइन किया गया था।

पहली पीढ़ी की चिप को आरआईएससी-वी सीपीयू क्लस्टर के आसपास बनाया गया था और टीएसएमसी की 7 एनएम प्रक्रिया का उपयोग करके तैयार किया गया था। हुड के तहत, घटक ने प्रसंस्करण तत्वों के आठ-बाई-आठ मैट्रिक्स को नियोजित किया, जिनमें से प्रत्येक दो आरवी सीपीयू कोर से सुसज्जित है, जिनमें से एक वेक्टर गणित एक्सटेंशन से सुसज्जित है। ये कोर 128MB की ऑन-चिप SRAM और 128GB तक LPDDR5 मेमोरी से संचालित होते हैं।

जैसा कि मेटा ने पिछले साल दावा किया था, चिप 800 मेगाहर्ट्ज पर चली और INT102.4 प्रदर्शन के प्रति सेकंड 8 ट्रिलियन ऑपरेशन या आधी सटीकता (FP51.2) पर 16 टेराफ्लॉप्स पर शीर्ष पर रही। तुलनात्मक रूप से, एनवीडिया का एच100 विरल एफपी8 प्रदर्शन के लगभग चार पेटाफ्लॉप्स में सक्षम है। हालांकि एनवीडिया या एएमडी के जीपीयू जितना शक्तिशाली कहीं नहीं है, चिप का एक बड़ा फायदा था: बिजली की खपत। चिप की थर्मल डिज़ाइन शक्ति केवल 25 वाट थी।

के अनुसार अर्ध विश्लेषण, मेटा की नवीनतम चिप बेहतर कोर का दावा करती है और TSMC की चिप-ऑन-वेफर-ऑन-सब्सट्रेट (CoWoS) तकनीक का उपयोग करके पैक की गई उच्च-बैंडविड्थ मेमोरी के लिए LPDDR5 का व्यापार करती है।

एक और उल्लेखनीय अंतर यह है कि मेटा की दूसरी पीढ़ी की चिप वास्तव में इसके डेटासेंटर बुनियादी ढांचे में व्यापक तैनाती देखेगी। फेसबुक टाइटन के अनुसार, जबकि पहली पीढ़ी के हिस्से का उपयोग उत्पादन विज्ञापन मॉडल चलाने के लिए किया गया था, इसने प्रयोगशाला को कभी नहीं छोड़ा।

कृत्रिम सामान्य बुद्धि का पीछा करना

कस्टम भागों को एक तरफ रख दें, तो फेसबुक और इंस्टाग्राम पेरेंट ने इसे छोड़ दिया है अरबों हाल के वर्षों में पारंपरिक सीपीयू प्लेटफार्मों के लिए अनुपयुक्त सभी प्रकार के कार्यों में तेजी लाने के लिए जीपीयू पर डॉलर खर्च किए गए हैं। हालाँकि, GPT-4 और मेटा के अपने लामा 2 जैसे बड़े भाषा मॉडल के उदय ने परिदृश्य को बदल दिया है और बड़े पैमाने पर GPU क्लस्टर की तैनाती को प्रेरित किया है।

जिस पैमाने पर मेटा संचालित होता है, इन रुझानों के कारण इसके बुनियादी ढांचे में भारी बदलाव की आवश्यकता हुई है, जिसमें शामिल हैं नया स्वरूप बड़े एआई परिनियोजन से जुड़ी अपार शक्ति और शीतलन आवश्यकताओं का समर्थन करने के लिए कई डेटासेंटर।

और मेटा की तैनाती अगले कुछ महीनों में बड़ी होने वाली है क्योंकि कंपनी मेटावर्स से फोकस स्थानांतरित कर रही है विकास कृत्रिम सामान्य बुद्धि का. माना जाता है कि एआई पर किया गया काम मेटावर्स या ऐसा कुछ बनाने में मदद करेगा।

सीईओ मार्क जुकरबर्ग के अनुसार, मेटा की योजना इस साल अकेले 350,000 एनवीडिया एच100 तैनात करने की है।

बिज़ ने एएमडी की नई तैनाती की योजना की भी घोषणा की शुभारंभ इसके डेटासेंटर में MI300X GPU। जुकरबर्ग ने दावा किया कि उनका निगम वर्ष का अंत 600,000 H100 के बराबर कंप्यूटिंग शक्ति के साथ करेगा। तो स्पष्ट रूप से मेटा के एमटीआईए चिप्स जल्द ही जीपीयू की जगह नहीं लेंगे। ®