एआई में विविधता का महत्व राय नहीं, गणित है - आईबीएम ब्लॉग

हम सभी अपने आदर्श मानवीय मूल्यों को अपनी प्रौद्योगिकियों में प्रतिबिंबित होते देखना चाहते हैं। हम उम्मीद करते हैं कि कृत्रिम बुद्धिमत्ता (एआई) जैसी प्रौद्योगिकियाँ हमसे झूठ नहीं बोलेंगी, भेदभाव नहीं करेंगी और हमारे और हमारे बच्चों के उपयोग के लिए सुरक्षित होंगी। फिर भी कई एआई निर्माता वर्तमान में अपने मॉडलों में उजागर होने वाले पूर्वाग्रहों, अशुद्धियों और समस्याग्रस्त डेटा प्रथाओं के लिए आलोचना का सामना कर रहे हैं। इन मुद्दों के लिए तकनीकी, एल्गोरिथम या एआई-आधारित समाधान से कहीं अधिक की आवश्यकता है। वास्तव में, एक समग्र, सामाजिक-तकनीकी दृष्टिकोण की आवश्यकता है।

गणित एक शक्तिशाली सत्य को प्रदर्शित करता है

एआई सहित सभी पूर्वानुमानित मॉडल तब अधिक सटीक होते हैं जब वे विविध मानव बुद्धि और अनुभव को शामिल करते हैं। यह कोई राय नहीं है; इसकी अनुभवजन्य वैधता है। इसपर विचार करें विविधता भविष्यवाणी प्रमेय. सीधे शब्दों में कहें तो, जब किसी समूह में विविधता बड़ी होती है, तो भीड़ की गलती छोटी होती है - जो "भीड़ की बुद्धिमत्ता" की अवधारणा का समर्थन करती है। एक प्रभावशाली अध्ययन में, यह दिखाया गया कि कम क्षमता वाले समस्या समाधानकर्ताओं के विविध समूह उच्च क्षमता वाले समस्या समाधानकर्ताओं के समूहों से बेहतर प्रदर्शन कर सकते हैं (हांग और पेज, 2004).

गणितीय भाषा में: आपका विचरण जितना व्यापक होगा, आपका माध्य उतना ही अधिक मानक होगा। समीकरण इस प्रकार दिखता है:

A आगे के अध्ययन अधिक गणनाएँ प्रदान की गईं जो एक बुद्धिमान भीड़ की सांख्यिकीय परिभाषाओं को परिष्कृत करती हैं, जिसमें अन्य सदस्यों की भविष्यवाणियों की अज्ञानता और उन लोगों को शामिल करना शामिल है अधिकतम भिन्न (नकारात्मक रूप से सहसंबद्ध) भविष्यवाणियाँ या निर्णय। तो, यह केवल मात्रा नहीं है, बल्कि विविधता है जो भविष्यवाणियों में सुधार करती है। यह अंतर्दृष्टि एआई मॉडल के मूल्यांकन को कैसे प्रभावित कर सकती है?

मॉडल (इन)सटीकता

एक सामान्य कहावत को उद्धृत करने के लिए, सभी मॉडल गलत हैं। यह सांख्यिकी, विज्ञान और एआई के क्षेत्र में सच है। डोमेन विशेषज्ञता की कमी के साथ बनाए गए मॉडल का परिणाम हो सकता है ग़लत आउटपुट।

आज, लोगों का एक छोटा सजातीय समूह यह निर्धारित करता है कि जेनेरिक एआई मॉडल को प्रशिक्षित करने के लिए किस डेटा का उपयोग किया जाए, जो उन स्रोतों से लिया गया है जो अंग्रेजी को बहुत अधिक प्रस्तुत करते हैं। "दुनिया की 6,000 से अधिक भाषाओं में से अधिकांश के लिए, उपलब्ध पाठ डेटा बड़े पैमाने के आधार मॉडल को प्रशिक्षित करने के लिए पर्याप्त नहीं है" (से)फाउंडेशन मॉडल के अवसरों और जोखिमों पर, “बोम्मासानी एट अल., 2022)।

इसके अतिरिक्त, मॉडल स्वयं सीमित आर्किटेक्चर से बनाए गए हैं: “लगभग सभी अत्याधुनिक एनएलपी मॉडल अब कुछ फाउंडेशन मॉडलों में से एक से अनुकूलित किए गए हैं, जैसे कि बीईआरटी, रॉबर्टा, बार्ट, टी5, आदि। जबकि यह समरूपीकरण उत्पन्न करता है अत्यधिक उच्च उत्तोलन (नींव मॉडल में कोई भी सुधार पूरे एनएलपी में तत्काल लाभ पहुंचा सकता है), यह एक दायित्व भी है; सभी एआई सिस्टम को कुछ फाउंडेशन मॉडल के समान समस्याग्रस्त पूर्वाग्रह प्राप्त हो सकते हैं (बोम्मासानी एट अल.) "

जेनेरिक एआई के लिए विभिन्न समुदायों को बेहतर ढंग से प्रतिबिंबित करने के लिए, मानव डेटा की व्यापक विविधता को मॉडल में प्रस्तुत किया जाना चाहिए।

मॉडल सटीकता का मूल्यांकन पूर्वाग्रह के मूल्यांकन के साथ-साथ चलता है। हमें पूछना चाहिए कि मॉडल का इरादा क्या है और यह किसके लिए अनुकूलित है? उदाहरण के लिए, विचार करें कि सामग्री-अनुशंसा एल्गोरिदम और खोज इंजन एल्गोरिदम से सबसे अधिक लाभ किसे होता है। हितधारकों के व्यापक रूप से भिन्न हित और लक्ष्य हो सकते हैं। एल्गोरिदम और मॉडल को बेयस त्रुटि के लिए लक्ष्य या प्रॉक्सी की आवश्यकता होती है: न्यूनतम त्रुटि जिसमें एक मॉडल को सुधार करना चाहिए। यह प्रॉक्सी अक्सर कोई व्यक्ति होता है, जैसे कि डोमेन विशेषज्ञता वाला विषय विशेषज्ञ।

एक बहुत ही मानवीय चुनौती: मॉडल खरीद या विकास से पहले जोखिम का आकलन करना

उभरते एआई नियम और कार्य योजनाएं एल्गोरिथम प्रभाव मूल्यांकन रूपों के महत्व को तेजी से रेखांकित कर रही हैं। इन फॉर्मों का लक्ष्य एआई मॉडल के बारे में महत्वपूर्ण जानकारी हासिल करना है ताकि शासन टीमें उन्हें तैनात करने से पहले अपने जोखिमों का आकलन और समाधान कर सकें। विशिष्ट प्रश्नों में शामिल हैं:

• आपके मॉडल का उपयोग मामला क्या है?
• असमान प्रभाव के जोखिम क्या हैं?
• आप निष्पक्षता का आकलन कैसे कर रहे हैं?
• आप अपने मॉडल को समझाने योग्य कैसे बना रहे हैं?

हालाँकि इसे अच्छे इरादों के साथ डिज़ाइन किया गया है, लेकिन समस्या यह है कि अधिकांश AI मॉडल मालिक यह नहीं समझते हैं कि उनके उपयोग के मामले में जोखिमों का मूल्यांकन कैसे किया जाए। एक सामान्य बात यह हो सकती है, "मेरा मॉडल अनुचित कैसे हो सकता है यदि वह व्यक्तिगत रूप से पहचान योग्य जानकारी (पीआईआई) एकत्र नहीं कर रहा है?" नतीजतन, जोखिम कारकों को सटीक रूप से चिह्नित करने के लिए शासन प्रणालियों के लिए आवश्यक विचारशीलता के साथ फॉर्म शायद ही कभी पूरे किए जाते हैं।

इस प्रकार, समाधान की सामाजिक-तकनीकी प्रकृति पर जोर दिया गया है। एक मॉडल मालिक - एक व्यक्ति - को केवल यह मूल्यांकन करने के लिए चेकबॉक्स की एक सूची नहीं दी जा सकती है कि क्या उनके उपयोग के मामले से नुकसान होगा। इसके बजाय, आवश्यकता इस बात की है कि व्यापक रूप से अलग-अलग जीवन-दुनिया के अनुभवों वाले लोगों के समूह समुदायों में एक साथ आएं जो असमान प्रभाव के बारे में कठिन बातचीत करने के लिए मनोवैज्ञानिक सुरक्षा प्रदान करते हैं।

भरोसेमंद एआई के लिए व्यापक दृष्टिकोण का स्वागत

आईबीएम® "ग्राहक शून्य" दृष्टिकोण अपनाने में विश्वास करता है, जो परामर्श और उत्पाद-आधारित समाधानों में अपने स्वयं के ग्राहकों के लिए की जाने वाली सिफारिशों और प्रणालियों को लागू करता है। यह दृष्टिकोण नैतिक प्रथाओं तक फैला हुआ है, यही कारण है कि आईबीएम ने एक भरोसेमंद एआई उत्कृष्टता केंद्र (सीओई) बनाया है।

जैसा कि ऊपर बताया गया है, एआई के प्रभावों का उचित मूल्यांकन करने के लिए अनुभवों और कौशलों की विविधता महत्वपूर्ण है। लेकिन एआई इनोवेटर्स, विशेषज्ञों और प्रतिष्ठित इंजीनियरों से भरी कंपनी में उत्कृष्टता केंद्र में भाग लेने की संभावना डराने वाली हो सकती है, इसलिए मनोवैज्ञानिक सुरक्षा के समुदाय को विकसित करने की आवश्यकता है। आईबीएम इसे स्पष्ट रूप से यह कहते हुए संप्रेषित करता है, “एआई में रुचि है? एआई नैतिकता में रुचि है? आपके पास इस मेज़ पर बैठने की जगह है।"

सीओई हर स्तर पर अभ्यासकर्ताओं को एआई नैतिकता में प्रशिक्षण प्रदान करता है। सिंक्रोनस लर्निंग (कक्षा सेटिंग्स में शिक्षक और छात्र) और एसिंक्रोनस (स्व-निर्देशित) दोनों कार्यक्रम पेश किए जाते हैं।

लेकिन यह सीओई है लागू प्रशिक्षण जो हमारे चिकित्सकों को गहनतम अंतर्दृष्टि प्रदान करता है, क्योंकि वे असमान प्रभाव को बेहतर ढंग से समझने के लिए वास्तविक परियोजनाओं पर वैश्विक, विविध, बहु-विषयक टीमों के साथ काम करते हैं। वे आईबीएम के डिजाइन थिंकिंग फ्रेमवर्क का भी लाभ उठाते हैं एआई के लिए डिज़ाइन समूह आंतरिक रूप से और ग्राहकों के साथ एआई मॉडल के अनपेक्षित प्रभावों का आकलन करने के लिए उपयोग करता है, जो अक्सर हाशिए पर रहने वाले लोगों को ध्यान में रखते हैं। (सिल्विया डकवर्थ देखें शक्ति और विशेषाधिकार का पहिया उदाहरण के लिए कि कैसे व्यक्तिगत विशेषताएँ विशेषाधिकार प्राप्त लोगों को प्रभावित करती हैं या लोगों को हाशिए पर धकेल देती हैं।) आईबीएम ने ओपन-सोर्स समुदाय को कई ढाँचे भी दान किए हैं नैतिक रूप से डिज़ाइन करें.

आईबीएम ने इन परियोजनाओं पर सार्वजनिक रूप से प्रकाशित कुछ रिपोर्टें नीचे दी हैं:

आपका एआई मॉडल कैसा प्रदर्शन कर रहा है, इसके बारे में महत्वपूर्ण जानकारी प्राप्त करने के लिए स्वचालित एआई मॉडल शासन उपकरण की आवश्यकता होती है। लेकिन ध्यान दें, आपके मॉडल के विकसित होने और उत्पादन में आने से पहले ही जोखिम उठाना इष्टतम है। विविध, बहु-विषयक चिकित्सकों का समुदाय बनाकर, जो लोगों को असमान प्रभाव के बारे में कठिन बातचीत करने के लिए एक सुरक्षित स्थान प्रदान करते हैं, आप अपने सिद्धांतों को क्रियान्वित करने और जिम्मेदारी से एआई विकसित करने की अपनी यात्रा शुरू कर सकते हैं।

व्यवहार में, जब आप एआई प्रैक्टिशनरों को नियुक्त कर रहे हैं, तो विचार करें कि मॉडल बनाने में 70% से अधिक प्रयास सही डेटा तैयार करने में होता है। आप ऐसे लोगों को नियुक्त करना चाहते हैं जो प्रतिनिधिक डेटा एकत्र करना जानते हों और साथ ही सहमति से भी एकत्र किए गए हों। आप ऐसे लोगों को भी चाहते हैं जो डोमेन विशेषज्ञों के साथ मिलकर काम करना जानते हों ताकि यह सुनिश्चित हो सके कि उनके पास सही दृष्टिकोण है। यह सुनिश्चित करना महत्वपूर्ण है कि इन अभ्यासकर्ताओं के पास विनम्रता और विवेक के साथ जिम्मेदारीपूर्वक एआई को क्यूरेट करने की चुनौती से निपटने के लिए भावनात्मक बुद्धिमत्ता हो। हमें यह सीखने के बारे में जानबूझकर होना चाहिए कि कैसे पहचानें कि एआई सिस्टम कैसे और कब असमानता को बढ़ा सकते हैं, साथ ही वे मानव बुद्धि को भी बढ़ा सकते हैं।

एआई के साथ आपका व्यवसाय कैसे काम करता है, इसे फिर से खोजें