सतत एआई/एमएल में सीपीयू की भूमिका

प्लेटो द्वारा पुनर्प्रकाशित

अनुयायियों: 0

advertorial जैसे-जैसे एआई व्यावसायिक कंप्यूटिंग वातावरण में अपनी पहुंच बढ़ा रहा है, इसका प्रभाव कुछ अप्रत्याशित प्रभाव पैदा कर रहा है। आईडीसी का नवीनतम फ्यूचरस्केप उदाहरण के लिए, रिपोर्ट भविष्यवाणी करती है कि जैसे-जैसे कंपनियां एआई-संवर्धित उत्पादों/सेवाओं को पेश करने और एआई कार्यान्वयन के साथ अपने ग्राहकों की सहायता करने की होड़ में हैं, प्रौद्योगिकी नवाचार के लिए एक प्रमुख प्रेरक बन जाएगी।

एक अन्य एआई-संचालित परिवर्तन इस बात पर निर्भर करता है कि किस हद तक डेटासेंटर को एआई डेवलपर्स द्वारा वांछित उच्च-प्रदर्शन गणना क्षमताओं को प्रदान करने के लिए जीपीयू या विशेष आर्किटेक्चर जैसे अलग-अलग एआई एक्सेलेरेटर के साथ सीपीयू को संतुलित करना पड़ सकता है।

यह एक बहस है जो डेटासेंटर मालिकों के लिए अतिरिक्त पूंजीगत व्यय निवेश और संभावना दोनों के संदर्भ में उच्च जोखिम वाले मुद्दों को उठाती है कि (जबकि माप के तरीके सटीक नहीं हैं) विशिष्ट जीपीयू-संचालित एआई संचालन पारंपरिक आईटी वर्कलोड की तुलना में अधिक बिजली की खपत करते हैं।

एआई की उच्च शक्ति/कार्बन ओवरहेड से निपटना डेटासेंटर संचालन के लिए एक अतिरिक्त दर्द-बिंदु है, जिसे यह भी सुनिश्चित करना होगा कि एआई के लिए अनुकूलित उन्नत कंप्यूट आर्किटेक्चर मौजूदा तकनीक या सुविधाओं पर ओवरलोडिंग के जोखिम के बिना बढ़ी हुई बिजली मांगों का प्रबंधन कर सकते हैं।

इसलिए स्थिरता शासन और कार्बन प्रबंधन में विस्तारित विनियमन आईटी हार्डवेयर और सॉफ्टवेयर के क्षेत्र में ऊर्जा के उपयोग को कम करने के लिए संचालन को आगे बढ़ाता है, एआई अवसर और बाधा दोनों का प्रतिनिधित्व करता है।

एआई बिजली की खपत को कम करना

इंटेल के एआई सेंटर ऑफ एक्सीलेंस में आर्टिफिशियल इंटेलिजेंस जीटीएम के निदेशक स्टीफ़न गिलिच बताते हैं कि कुल मिलाकर, बढ़ी हुई बिजली की खपत और एआई और मशीन लर्निंग वर्कलोड को समायोजित करने के लिए आवश्यक वास्तुशिल्प पुनर्संरचना डेटासेंटर के लिए एक कठिन चुनौती है।

“ऊर्ध्वाधर क्षेत्रों और उद्योगों में यह बिल्कुल स्पष्ट है, जहां भी एआई/मशीन लर्निंग एप्लिकेशन और सेवाएं विकसित, प्रशिक्षित और चलाई जा रही हैं, डेटा की बढ़ी हुई मात्रा से निपटने के लिए ऑन-प्रिमाइसेस और क्लाउड-होस्टेड आईटी सुविधाओं की क्षमताओं को अपग्रेड करना होगा। -गहन कार्यभार,'' गिलिच कहते हैं। "यह भी स्पष्ट है कि उन उन्नयनों में केवल गणना क्षमता को बढ़ाने के अलावा और भी बहुत कुछ शामिल होगा।"

गिलिच का मानना है कि एआई-केंद्रित डेटासेंटरों की स्थिरता को बढ़ाने के लिए बहुत कुछ किया जा सकता है, जिसकी शुरुआत एआई/मशीन लर्निंग परिदृश्य के आसपास की कुछ धारणाओं के पुनर्मूल्यांकन से होगी। प्रोसेसिंग इकाइयाँ शुरू करने के लिए एक अच्छी जगह हैं, खासकर जब यह तय करना हो कि सीपीयू या जीपीयू कार्य के लिए बेहतर अनुकूल हैं या नहीं।

क्योंकि जबकि एआई विशिष्ट गणना-गहन कार्यभार बढ़ रहा है (कोई भी निश्चित नहीं है कि किस गति से) डेटासेंटर कार्य का बड़ा हिस्सा (गैर-एआई कार्यभार) दिन-ब-दिन जारी रहना चाहिए - स्थिर अनुप्रयोग प्रदान करना और सेवा राजस्व धाराओं को परेशान नहीं किया जाएगा।

इनमें से अधिकांश को वर्तमान में सीपीयू द्वारा नियंत्रित किया जाता है और अधिक महंगे जीपीयू के साथ एक मानक डेटासेंटर को फिर से स्थापित करना, बहुत सारी सुविधाओं के लिए, आवश्यकताओं के लिए अधिशेष होगा। सामान्य शब्दों में, एक समान कार्य करने के लिए एक GPU, CPU की तुलना में अधिक वाट क्षमता की खपत करता है। किसी दिए गए रैक कॉन्फ़िगरेशन में बिजली की आपूर्ति के आधार पर, डेटासेंटर बुनियादी ढांचे में जीपीयू को एकीकृत करने के लिए उदाहरण के लिए बिजली वितरण प्रणालियों में अपग्रेड की आवश्यकता होती है, जो चलने के बाद उच्च ऊर्जा बिल के अलावा अतिरिक्त अग्रिम लागत के लिए बाध्य होते हैं।

इसके अलावा, इंटेल का सीपीयू विकास लगातार नया हो रहा है। गिलिच का तर्क है कि कई उपयोग-मामलों में एक सीपीयू को जीपीयू के रूप में अच्छा - और कभी-कभी बेहतर - समग्र प्रदर्शन प्राप्त करने के लिए साबित किया जा सकता है। और उनके प्रदर्शन को इंटेल® एएमएक्स (एडवांस्ड मैट्रिक्स एक्सटेंशन्स) जैसी अग्रणी तकनीक के साथ बढ़ाया जा सकता है, जो चौथी पीढ़ी के इंटेल ज़ीऑन सीपीयू में निर्मित एक त्वरक है।

गिलिच बताते हैं, "इंटेल ज़ीऑन प्रोसेसर एक डेटासेंटर को अंतर्निहित एआई त्वरण के माध्यम से अपने एआई अपनाने को बढ़ाने में सक्षम कर सकता है जो मशीन लर्निंग, प्रशिक्षण और अनुमान के लिए सीपीयू प्रदर्शन को बढ़ावा देता है।" "इस तरह, वे मौजूदा Intel Xeon प्रसंस्करण वातावरण का लाभ उठाते हुए CAPEX को कम करने और प्रदर्शन को अधिकतम करने के लिए अलग-अलग त्वरक को अपना सकते हैं।"

एआई और गैर-एआई कार्यभार को मिलाने की जरूरत है

इंटेल एएमएक्स इंटेल ज़ीऑन स्केलेबल प्रोसेसर कोर पर एक समर्पित हार्डवेयर ब्लॉक है जो एआई वर्कलोड को एक अलग त्वरक पर लोड करने के बजाय सीपीयू पर चलाने में सक्षम बनाता है, जिससे महत्वपूर्ण प्रदर्शन को बढ़ावा मिलता है। यह मशीन लर्निंग अनुशंसा प्रणाली, छवि पहचान और प्राकृतिक भाषा प्रसंस्करण जैसे एआई वर्कलोड के लिए उपयुक्त है, जो मैट्रिक्स गणित पर निर्भर हैं।

संवर्धित सीपीयू के पक्ष में एक और तर्क यह है कि वे मौजूदा सीपीयू प्रतिबद्धताओं को और अधिक पूरा करने के लिए डेटासेंटर ऑपरेटरों के लिए एक लागत प्रभावी मार्ग प्रदान करते हैं, उनकी संपत्तियों को भविष्य में सुरक्षित रखते हैं ताकि वे मिश्रित कार्यभार लेने में सक्षम हो सकें, और उन्हें बेहतर स्थिति में रख सकें। समग्र बिजली उपयोग को नियंत्रित करें।

यह, बदले में, डेटासेंटर सेवाओं के प्रदाताओं (और उनके ग्राहकों) को स्थिरता लक्ष्यों को पूरा करने में मदद कर सकता है, और सॉफ्टवेयर डेवलपर्स (उद्यम या तीसरे पक्ष) के लिए एक विक्रय बिंदु प्रदान करता है जो अपने कोडिंग की ऊर्जा दक्षता प्रदर्शित करने के लिए एक अनुकूलित मंच की तलाश में हैं। आउटपुट.

गिलिच कहते हैं, "वास्तविकता यह है कि एआई वर्कलोड जिन अवसरों का वादा कर सकता है, उन पर जल्दबाजी करने के बजाय, डेटासेंटर ऑपरेटरों को यह एहसास हो रहा है कि उन्हें कई अनिवार्यताओं पर विचार करना चाहिए जो तकनीकी विकल्पों के साथ-साथ व्यावसायिक चिंताओं से भी अवगत हैं।"

इन अनिवार्यताओं में शामिल हो सकते हैं: गैर-एआई कार्यभार के साथ एआई कार्यभार का एकीकरण; विभिन्न हार्डवेयर और सॉफ्टवेयर स्टैक का एकीकरण; और क्योंकि वे यह सुनिश्चित करना चाहते हैं कि उनके पास एक ऐसा आर्किटेक्चर है जो कई अलग-अलग कार्यभार, विभिन्न वर्कस्ट्रीम प्रकारों के एकीकरण के लिए उपयुक्त है।

गिलिच कहते हैं, "ये प्रश्न जटिल चुनौतियों की ओर इशारा करते हैं, क्योंकि उन्हें सही करने से इष्टतम तकनीकी और ऊर्जा दक्षता पर असर पड़ता है - ऊर्जा दक्षता अब एक मुख्य प्रदर्शन बेंचमार्क है जो डेटासेंटर की व्यावसायिक व्यवहार्यता को तेजी से प्रभावित करेगी।" "तो फिर, यह अत्यंत महत्वपूर्ण है।"

गिलिच के दृष्टिकोण से, इस उभरती वास्तविकता को अपनाने की कुंजी एक चरण-प्रक्रिया है जिसे 'एआई आत्मसात' कहा जा सकता है। यहां पहली बात यह है कि एआई वर्कलोड को अन्य वर्कलोड प्रकारों से अलग नहीं किया जाता है - उन्हें अलग से चलाने के बजाय पारंपरिक वर्कलोड में एकीकृत किया जाएगा।

गिलिच इस चरणबद्ध एकीकरण के उदाहरण के रूप में वीडियोकांफ्रेंसिंग देते हैं: “पहले से ही मानक अनुप्रयोगों में मानक ऑडियो/वीडियो ट्रैफ़िक स्ट्रीम करते समय, एआई को संक्षेपण, अनुवाद, ट्रांसक्रिप्शन जैसे सहवर्ती कार्यों को करने के लिए एकीकृत किया गया है। ऐसी सुविधाएँ AI द्वारा बहुत अच्छी तरह से समर्थित हैं।

शुरू से अंत तक ऊर्जा की बचत

गिलिच का तर्क है कि ऊर्जा दक्षता हासिल करना वास्तव में एक अंत-से-अंत रणनीतिक उपक्रम होना चाहिए। “यह सॉफ़्टवेयर पक्ष के साथ-साथ हार्डवेयर आर्किटेक्चर तक फैला हुआ है - किसी दिए गए वर्कफ़्लो प्रक्रिया को सक्षम करने वाला संपूर्ण तंत्र। पहुंच को सबसे कुशल बनाने के लिए डेटा कहाँ संग्रहीत किया जाता है - गणना के लिहाज से और इसलिए ऊर्जा के लिहाज से - क्या यह ऊर्जा दक्षता के लिए सबसे अच्छी जगह है?

इस मूल्यांकन में लाने वाला दूसरा कारक यह निर्धारित करना है कि कार्यभार कहाँ चल रहा है। उदाहरण के लिए, क्या यह डेटासेंटर में सर्वर के बजाय क्लाइंट्स (जैसे इंटेल कोर अल्ट्रा प्रोसेसर से लैस एआई पीसी) पर चल रहा है? क्या इनमें से कुछ एआई वर्कलोड वास्तव में क्लाइंट्स पर (सर्वर के साथ) चलाए जा सकते हैं?

गिलिच का तर्क है कि यदि यह एआई-कंप्यूट/बिजली खपत संतुलन को बेहतर संरेखण में लाने में मदद करने वाला है तो हर विकल्प विचार करने योग्य है: "यह लगभग वितरित कंप्यूटिंग की पुरानी-स्कूल धारणा की वापसी की तरह है।"

गिलिच कहते हैं: "कभी-कभी हमारे ग्राहक पूछते हैं, 'एआई कहां चलेगा?' - इसका उत्तर यह है कि AI हर जगह काम करेगा। इसलिए इंटेल में हमारी महत्वाकांक्षा उस पर केंद्रित है जिसे एआई का सार्वभौमिक समायोजन कहा जा सकता है, क्योंकि हमारा मानना है कि यह सभी एप्लिकेशन क्षेत्रों में प्रवेश करेगा।

इंटेल में इसमें एपीआई जैसे मिडलवेयर शामिल हैं, जो सॉफ्टवेयर स्टैक के किसी भी अन्य भाग की तरह, यथासंभव कुशल होना चाहिए। 'एपीआई फैलाव' के परिणामस्वरूप अनावश्यक प्रसंस्करण हो सकता है, उनके बुनियादी ढांचे के पदचिह्न कम हो सकते हैं, और निगरानी और नियंत्रण की कमी हो सकती है।

"साथ में इंटेल वनएपीआई, उद्यम अपने पूर्ण हार्डवेयर मूल्य का एहसास कर सकते हैं, उच्च-प्रदर्शन क्रॉस-आर्किटेक्चर कोड विकसित कर सकते हैं, और अपने अनुप्रयोगों को भविष्य की जरूरतों के लिए तैयार कर सकते हैं, ”गिलिच बताते हैं।

“इंटेल वनएपीआई एक खुला, क्रॉस-इंडस्ट्री, मानक-आधारित, एकीकृत, मल्टीआर्किटेक्चर, मल्टी-वेंडर प्रोग्रामिंग मॉडल है जो तेज एप्लिकेशन प्रदर्शन और बेहतर उत्पादकता के लिए एक्सेलेरेटर आर्किटेक्चर में एक सामान्य डेवलपर अनुभव प्रदान करता है। वनएपीआई पहल पूरे पारिस्थितिकी तंत्र में वनएपीआई विनिर्देश और संगत वनएपीआई कार्यान्वयन पर सहयोग को प्रोत्साहित करती है।

गिलिच कहते हैं: "वनएपीआई एक मिडलवेयर स्टैक प्रदान करता है जो एआई फ्रेमवर्क जैसी मानक चीजें लेता है - जैसे पाइटोरच या टेन्सरफ्लो [एआई और मशीन लर्निंग के लिए ओपन-सोर्स सॉफ्टवेयर प्लेटफॉर्म] - और उन्हें मशीन स्तर पर अनुवाद करता है, और वनएपीआई एक कुशल तरीका सक्षम करता है वो करें। उपयोगकर्ता एआई फ्रेमवर्क स्तर पर एक सामान्य एपीआई का उपयोग कर सकते हैं, और हमारे पास एक एपीआई (वनएपीआई) है जो विभिन्न हार्डवेयर स्वादों को संबोधित करता है। तो एक सामान्य एपीआई का मतलब है कि उपयोगकर्ता खुला सॉफ़्टवेयर बना सकते हैं जिसे खुले सॉफ़्टवेयर स्टैक पर समर्थित किया जा सकता है।

सीपीयू-स्तरीय मूल्य-बिंदुओं पर जीपीयू-स्तरीय प्रदर्शन

आईटी में प्रगति काफी हद तक तैनाती रणनीतियों में अंतर्दृष्टि-संचालित सुधारों से जुड़ी निरंतर तकनीकी प्रगति की उम्मीद से प्रेरित है। यह बजट व्यय और व्यावसायिक आरओआई के बीच सर्वोत्तम प्राप्त करने योग्य संतुलन खोजने और इस उम्मीद पर आधारित एक मॉडल है कि प्रयास करने के लिए हमेशा आगे नवाचार होता है। एआई इस आदर्श के शिखर का प्रतिनिधित्व करता है - यह सतत आत्म-सुधार के माध्यम से अपने स्वयं के मूल्य प्रस्ताव को फिर से आविष्कार करने के लिए पर्याप्त स्मार्ट है।

अपनी चौथी पीढ़ी के इंटेल ज़ीऑन सीपीयू में एएमएक्स एक्सेलेरेटर का निर्माण करके, इंटेल दिखाता है कि सीपीयू-स्तरीय मूल्य-बिंदुओं पर जीपीयू-स्तरीय प्रदर्शन कैसे प्राप्त किया जा सकता है। यह डेटासेंटरों को उनके मौजूदा इंटेल ज़ीऑन-संचालित प्रोसेसिंग एस्टेट के रिटर्न मूल्य को अधिकतम करते हुए स्केल करने की अनुमति देता है, लेकिन एक मूल्य निर्धारण मॉडल भी प्रदान करता है जो एआई वर्कलोड लेकिन सीमित बजट वाले ग्राहकों के लिए प्रवेश की लागत को कम करता है।

और सीपीयू की कम बिजली खपत का मतलब है कि डेटासेंटर सुविधा के संपूर्ण संचालन में ऊर्जा दक्षता को समग्र रूप से हासिल किया जा सकता है - जैसे कि कूलिंग और वेंटिलेशन - और यह स्थिरता-कर्तव्यनिष्ठ सॉफ्टवेयर आर्किटेक्ट और एएल समाधान के डेवलपर्स के लिए एक और विजयी आकर्षण है।

इंटेल द्वारा योगदान दिया गया।