जिम्मेदार एआई नवाचार को सक्षम करने के लिए नए उपकरणों और क्षमताओं की घोषणा | अमेज़न वेब सेवाएँ

जेनेरिक एआई का तेजी से विकास आशाजनक नए नवाचार लाता है, और साथ ही नई चुनौतियां भी खड़ी करता है। इन चुनौतियों में कुछ ऐसी चुनौतियाँ शामिल हैं जो जेनरेटिव एआई से पहले आम थीं, जैसे पूर्वाग्रह और व्याख्यात्मकता, और फाउंडेशन मॉडल के लिए अद्वितीय नए (एफएम), मतिभ्रम और विषाक्तता सहित। AWS में, हम इसके लिए प्रतिबद्ध हैं जनरेटिव एआई को जिम्मेदारी से विकसित करना, अंत-से-अंत एआई जीवनचक्र में जिम्मेदार एआई को एकीकृत करने के लिए एक जन-केंद्रित दृष्टिकोण अपनाना जो शिक्षा, विज्ञान और हमारे ग्राहकों को प्राथमिकता देता है।

पिछले वर्ष में, हमने अपने जेनरेटिव एआई अनुप्रयोगों और मॉडलों में अंतर्निहित सुरक्षा स्कैनिंग जैसी नई क्षमताएं पेश की हैं अमेज़ॅन कोडव्हिस्पीर, हानिकारक सामग्री का पता लगाने और उसे ब्लॉक करने का प्रशिक्षण अमेज़न टाइटन, और डेटा गोपनीयता सुरक्षा में अमेज़ॅन बेडरॉक. सुरक्षित, पारदर्शी और जिम्मेदार जनरेटिव एआई में हमारे निवेश में वैश्विक समुदाय और नीति निर्माताओं के साथ सहयोग शामिल है क्योंकि हमने दोनों को प्रोत्साहित और समर्थन किया है। व्हाइट हाउस की स्वैच्छिक AI प्रतिबद्धताएँ और एआई सुरक्षा शिखर सम्मेलन ब्रिटेन में। और हम उद्देश्य-निर्मित उपकरणों के साथ जिम्मेदार एआई को संचालित करने के लिए ग्राहकों के साथ हाथ से काम करना जारी रखते हैं अमेज़न SageMaker स्पष्ट करें, अमेज़ॅन सेजमेकर के साथ एमएल गवर्नेंस, और अधिक.

नए जिम्मेदार एआई नवाचार का परिचय

जैसे-जैसे जेनेरिक एआई नए उद्योगों, संगठनों और उपयोग के मामलों में आगे बढ़ता है, इस वृद्धि के साथ-साथ जिम्मेदार एफएम विकास में निरंतर निवेश भी होना चाहिए। ग्राहक चाहते हैं कि उनके एफएम सुरक्षा, निष्पक्षता और सुरक्षा को ध्यान में रखकर बनाए जाएं, ताकि वे एआई को जिम्मेदारी से तैनात कर सकें। इस वर्ष AWS re:Invent में, हम नए अंतर्निहित टूल, ग्राहक सुरक्षा, पारदर्शिता बढ़ाने के लिए संसाधनों और दुष्प्रचार से निपटने के लिए क्षमताओं के व्यापक सेट में जिम्मेदार जेनरेटिव एआई नवाचार को बढ़ावा देने के लिए नई क्षमताओं की घोषणा करने के लिए उत्साहित हैं। हमारा लक्ष्य ग्राहकों को विषाक्तता और मजबूती जैसे प्रमुख जिम्मेदार एआई विचारों के खिलाफ एफएम का मूल्यांकन करने के लिए आवश्यक जानकारी प्रदान करना है, और ग्राहक उपयोग के मामलों और जिम्मेदार एआई नीतियों के आधार पर सुरक्षा उपायों को लागू करने के लिए रेलिंग पेश करना है। साथ ही, हमारे ग्राहक एआई सेवाओं और एफएम की सुरक्षा, निष्पक्षता, सुरक्षा और अन्य गुणों के बारे में बेहतर जानकारी प्राप्त करना चाहते हैं, क्योंकि वे उन्हें अपने संगठन के भीतर उपयोग करते हैं। हम ग्राहकों को हमारी AWS AI सेवाओं को बेहतर ढंग से समझने और उनके द्वारा मांगी गई पारदर्शिता प्रदान करने में मदद करने के लिए और अधिक संसाधनों की घोषणा करने के लिए उत्साहित हैं।

सुरक्षा उपायों को लागू करना: अमेज़ॅन बेडरॉक के लिए रेलिंग

जब बड़े पैमाने पर जेनेरिक एआई को पेश करने की बात आती है तो सुरक्षा एक प्राथमिकता है। संगठन अपने ग्राहकों और जेनरेटिव एआई अनुप्रयोगों के बीच सुरक्षित बातचीत को बढ़ावा देना चाहते हैं जो हानिकारक या आपत्तिजनक भाषा से बचें और कंपनी की नीतियों के अनुरूप हों। ऐसा करने का सबसे आसान तरीका पूरे संगठन में लगातार सुरक्षा उपाय करना है ताकि हर कोई सुरक्षित रूप से कुछ नया कर सके। कल हमने पूर्वावलोकन की घोषणा की अमेज़ॅन बेडरॉक के लिए रेलिंग-एक नई क्षमता जो ग्राहक उपयोग के मामलों और जिम्मेदार एआई नीतियों के आधार पर एप्लिकेशन-विशिष्ट सुरक्षा उपायों को लागू करना आसान बनाती है।

रेलिंग इस बात में निरंतरता लाती है कि अमेज़ॅन बेडरॉक पर एफएम अनुप्रयोगों के भीतर अवांछनीय और हानिकारक सामग्री पर कैसे प्रतिक्रिया करते हैं। ग्राहक अमेज़ॅन बेडरॉक पर बड़े भाषा मॉडल के साथ-साथ फाइन-ट्यून किए गए मॉडल और संयोजन में रेलिंग लगा सकते हैं अमेज़ॅन बेडरॉक के लिए एजेंट. गार्डरेल्स आपको उन विषयों को निर्दिष्ट करने की सुविधा देता है जिनसे बचना चाहिए, और सेवा स्वचालित रूप से उन प्रश्नों और प्रतिक्रियाओं का पता लगाती है और रोकती है जो प्रतिबंधित श्रेणियों में आते हैं। ग्राहक वांछित स्तर तक हानिकारक सामग्री को फ़िल्टर करने के लिए घृणास्पद भाषण, अपमान, कामुक भाषा और हिंसा सहित श्रेणियों में सामग्री फ़िल्टर थ्रेशोल्ड को भी कॉन्फ़िगर कर सकते हैं। उदाहरण के लिए, निवेश संबंधी सलाह देने से बचने और अनुचित सामग्री (जैसे घृणास्पद भाषण, अपमान और हिंसा) को सीमित करने के लिए एक ऑनलाइन बैंकिंग एप्लिकेशन स्थापित किया जा सकता है। निकट भविष्य में, ग्राहक उपयोगकर्ता इनपुट और एफएम की प्रतिक्रियाओं में व्यक्तिगत रूप से पहचान योग्य जानकारी (पीआईआई) को संशोधित करने, अपवित्रता फ़िल्टर सेट करने और उपयोगकर्ताओं और एफएम के बीच बातचीत को अवरुद्ध करने के लिए कस्टम शब्दों की एक सूची प्रदान करने में सक्षम होंगे, जिससे अनुपालन में सुधार होगा और आगे भी उपयोगकर्ताओं की सुरक्षा करना. रेलिंग के साथ, आप कंपनी की नीतियों के अनुरूप सुरक्षा और सुरक्षा उपायों को बनाए रखते हुए जेनेरिक एआई के साथ तेजी से नवाचार कर सकते हैं।

किसी विशिष्ट उपयोग के मामले के लिए सर्वश्रेष्ठ एफएम की पहचान करना: अमेज़ॅन बेडरॉक में मॉडल मूल्यांकन

आज, संगठनों के पास अपने जेनरेटिव एआई अनुप्रयोगों को सशक्त बनाने के लिए एफएम विकल्पों की एक विस्तृत श्रृंखला है। अपने उपयोग के मामले में सटीकता और प्रदर्शन का सही संतुलन बनाने के लिए, संगठनों को कुशलतापूर्वक मॉडलों की तुलना करनी चाहिए और प्रमुख जिम्मेदार एआई और गुणवत्ता मेट्रिक्स के आधार पर सबसे अच्छा विकल्प ढूंढना चाहिए जो उनके लिए महत्वपूर्ण हैं। मॉडलों का मूल्यांकन करने के लिए, संगठनों को पहले बेंचमार्क की पहचान करने, मूल्यांकन उपकरण स्थापित करने और मूल्यांकन चलाने में दिन बिताने चाहिए, इन सभी के लिए डेटा विज्ञान में गहरी विशेषज्ञता की आवश्यकता होती है। इसके अलावा, ये परीक्षण व्यक्तिपरक मानदंडों (उदाहरण के लिए, ब्रांड आवाज, प्रासंगिकता और शैली) के मूल्यांकन के लिए उपयोगी नहीं हैं, जिनके लिए थकाऊ, समय-गहन, मानव-समीक्षा वर्कफ़्लो के माध्यम से निर्णय की आवश्यकता होती है। इन मूल्यांकनों के लिए आवश्यक समय, विशेषज्ञता और संसाधन - प्रत्येक नए उपयोग के मामले के लिए - संगठनों के लिए जिम्मेदार एआई आयामों के खिलाफ मॉडल का मूल्यांकन करना और यह चुनना मुश्किल हो जाता है कि कौन सा मॉडल उनके ग्राहकों के लिए सबसे सटीक, सुरक्षित अनुभव प्रदान करेगा।

अब पूर्वावलोकन में उपलब्ध है, अमेज़ॅन बेडरॉक पर मॉडल मूल्यांकन ग्राहकों को स्वचालित या मानव मूल्यांकन का उपयोग करके सटीकता और सुरक्षा जैसे कस्टम मेट्रिक्स के आधार पर उनके विशिष्ट उपयोग के मामले के लिए सर्वोत्तम एफएम का मूल्यांकन, तुलना और चयन करने में मदद करता है। अमेज़ॅन बेडरॉक कंसोल में, ग्राहक उन एफएम को चुनते हैं जिनकी वे किसी दिए गए कार्य के लिए तुलना करना चाहते हैं, जैसे प्रश्न-उत्तर या सामग्री सारांश। स्वचालित मूल्यांकन के लिए, ग्राहक पूर्वनिर्धारित मूल्यांकन मानदंड (उदाहरण के लिए, सटीकता, मजबूती और विषाक्तता) का चयन करते हैं और अपने स्वयं के परीक्षण डेटासेट अपलोड करते हैं या अंतर्निहित, सार्वजनिक रूप से उपलब्ध डेटासेट में से चयन करते हैं। व्यक्तिपरक मानदंड या निर्णय की आवश्यकता वाली सूक्ष्म सामग्री के लिए, ग्राहक कुछ ही क्लिक के साथ आसानी से मानव-आधारित मूल्यांकन वर्कफ़्लो सेट कर सकते हैं। ये वर्कफ़्लो मॉडल प्रतिक्रियाओं का मूल्यांकन करने के लिए ग्राहक की इन-हाउस वर्कटीम का लाभ उठाते हैं, या AWS द्वारा प्रदान किए गए प्रबंधित कार्यबल का उपयोग करते हैं। मानव-आधारित मूल्यांकन के दौरान, ग्राहक उपयोग के मामले-विशिष्ट मेट्रिक्स (उदाहरण के लिए, प्रासंगिकता, शैली और ब्रांड आवाज) को परिभाषित करते हैं। एक बार जब ग्राहक सेटअप प्रक्रिया पूरी कर लेते हैं, तो अमेज़ॅन बेडरॉक मूल्यांकन चलाता है और एक रिपोर्ट तैयार करता है, ताकि ग्राहक आसानी से समझ सकें कि मॉडल ने प्रमुख सुरक्षा और सटीकता मानदंडों में कैसा प्रदर्शन किया है और अपने उपयोग के मामले के लिए सर्वोत्तम मॉडल का चयन कर सकते हैं।

मॉडलों का मूल्यांकन करने की यह क्षमता अमेज़ॅन बेडरॉक तक ही सीमित नहीं है, ग्राहक सटीकता, मजबूती और विषाक्तता जैसे प्रमुख गुणवत्ता और जिम्मेदारी मेट्रिक्स में सर्वोत्तम एफएम विकल्प का आसानी से मूल्यांकन, तुलना और चयन करने के लिए अमेज़ॅन सेजमेकर क्लेरिफाई में मॉडल मूल्यांकन का भी उपयोग कर सकते हैं। सभी एफएम.

दुष्प्रचार का मुकाबला: अमेज़न टाइटन में वॉटरमार्किंग

आज, हमने घोषणा की अमेज़ॅन टाइटन इमेज जेनरेटर पूर्वावलोकन में, जो ग्राहकों को बड़े पैमाने पर उच्च-गुणवत्ता वाली छवियां तेजी से बनाने और बढ़ाने में सक्षम बनाता है। हमने मॉडल विकास प्रक्रिया के प्रत्येक चरण के दौरान एआई को जिम्मेदार माना, जिसमें प्रशिक्षण डेटा चयन, अनुचित उपयोगकर्ता इनपुट और मॉडल आउटपुट का पता लगाने और हटाने के लिए फ़िल्टरिंग क्षमताओं का निर्माण और हमारे मॉडल आउटपुट की जनसांख्यिकीय विविधता में सुधार करना शामिल है। सभी अमेज़ॅन टाइटन-जनरेटेड छवियों में डिफ़ॉल्ट रूप से एक अदृश्य वॉटरमार्क होता है, जिसे एआई-जनरेटेड छवियों की पहचान करने के लिए एक विवेकशील तंत्र प्रदान करके गलत सूचना के प्रसार को कम करने में मदद करने के लिए डिज़ाइन किया गया है। AWS व्यापक रूप से अंतर्निहित अदृश्य वॉटरमार्क जारी करने वाले पहले मॉडल प्रदाताओं में से एक है जो छवि आउटपुट में एकीकृत होते हैं और परिवर्तनों के प्रतिरोधी होने के लिए डिज़ाइन किए गए हैं।

विश्वास का निर्माण: क्षतिपूर्ति के साथ हमारे मॉडलों और अनुप्रयोगों के पीछे खड़ा होना

ग्राहक विश्वास बनाना AWS का मूल है। हम अपनी स्थापना के बाद से ही अपने ग्राहकों के साथ यात्रा पर हैं, और जेनेरिक एआई के विकास के साथ, हम एक साथ नवीन प्रौद्योगिकी के निर्माण के लिए प्रतिबद्ध हैं। ग्राहकों को हमारी जनरेटिव एआई की शक्ति का उपयोग करने में सक्षम बनाने के लिए, उन्हें यह जानना होगा कि वे सुरक्षित हैं। AWS निम्नलिखित अमेज़ॅन जेनरेटिव एआई सेवाओं के आउटपुट के लिए कॉपीराइट क्षतिपूर्ति कवरेज प्रदान करता है: अमेज़ॅन टाइटन टेक्स्ट एक्सप्रेस, अमेज़ॅन टाइटन टेक्स्ट लाइट, अमेज़ॅन टाइटन एंबेडिंग, अमेज़ॅन टाइटन मल्टीमॉडल एंबेडिंग, अमेज़ॅन कोडव्हिस्परर प्रोफेशनल, एडब्ल्यूएस हेल्थस्क्राइब, अमेज़न लेक्स, तथा अमेज़न निजीकृत. इसका मतलब यह है कि जो ग्राहक सेवाओं का जिम्मेदारी से उपयोग करते हैं, वे उन सेवाओं द्वारा उत्पन्न आउटपुट द्वारा कॉपीराइट के उल्लंघन का आरोप लगाने वाले तीसरे पक्ष के दावों से सुरक्षित हैं (धारा 50.10 देखें) सेवा शर्तें). इसके अलावा, सेवाओं के उपयोग के लिए हमारी मानक आईपी क्षतिपूर्ति ग्राहकों को सेवाओं और उन्हें प्रशिक्षित करने के लिए उपयोग किए गए डेटा द्वारा आईपी उल्लंघन का आरोप लगाने वाले तीसरे पक्ष के दावों से बचाती है। इसे दूसरे तरीके से कहें तो, यदि आप ऊपर सूचीबद्ध अमेज़ॅन जेनरेटिव एआई सेवा का उपयोग करते हैं और कोई आप पर आईपी उल्लंघन के लिए मुकदमा करता है, तो एडब्ल्यूएस उस मुकदमे का बचाव करेगा, जिसमें आपके खिलाफ किसी भी फैसले या निपटान लागत को कवर करना शामिल है।

हम अपनी जेनरेटिव एआई सेवाओं के पीछे खड़े हैं और उन्हें लगातार बेहतर बनाने के लिए काम करते हैं। जैसे-जैसे AWS ने नई सेवाएँ लॉन्च की हैं और जेनरेटिव AI का विकास जारी है, AWS ग्राहक विश्वास अर्जित करने और बनाए रखने पर लगातार ध्यान केंद्रित करना जारी रखेगा।

पारदर्शिता बढ़ाना: अमेज़न टाइटन टेक्स्ट के लिए AWS AI सर्विस कार्ड

We AWS AI सर्विस कार्ड पेश किए गए पुनः: ग्राहकों को हमारी AWS AI सेवाओं को बेहतर ढंग से समझने में मदद करने के लिए एक पारदर्शिता संसाधन के रूप में 2022 का आविष्कार करें। एआई सर्विस कार्ड जिम्मेदार एआई दस्तावेज का एक रूप है जो ग्राहकों को इच्छित उपयोग के मामलों और सीमाओं, जिम्मेदार एआई डिजाइन विकल्पों और हमारी एआई सेवाओं के लिए तैनाती और प्रदर्शन अनुकूलन सर्वोत्तम प्रथाओं के बारे में जानकारी प्राप्त करने के लिए एक ही स्थान प्रदान करता है। वे एक व्यापक विकास प्रक्रिया का हिस्सा हैं जो हम अपनी सेवाओं को एक जिम्मेदार तरीके से बनाने के लिए करते हैं जो निष्पक्षता, व्याख्यात्मकता, सत्यता और मजबूती, शासन, पारदर्शिता, गोपनीयता और सुरक्षा, सुरक्षा और नियंत्रणीयता को संबोधित करती है।

पुनः:इस वर्ष हम आविष्कार की घोषणा कर रहे हैं अमेज़ॅन टाइटन टेक्स्ट के लिए नया एआई सर्विस कार्ड फाउंडेशन मॉडल में पारदर्शिता बढ़ाने के लिए। हम चार नए एआई सर्विस कार्ड भी लॉन्च कर रहे हैं जिनमें शामिल हैं: अमेज़ॅन कॉम्प्रिहेंशन डिटेक्ट पीआईआई, अमेज़ॅन ट्रांसक्राइब विषाक्तता का पता लगाना, अमेज़ॅन रिकॉग्निशन फेस लाइवनेस, तथा एडब्ल्यूएस हेल्थस्क्राइब. आप इनमें से प्रत्येक कार्ड को यहां देख सकते हैं एडब्ल्यूएस वेबसाइट। जैसे-जैसे जेनेरिक एआई का विकास और विकास जारी है, प्रौद्योगिकी का विकास, परीक्षण और उपयोग कैसे किया जाता है, इस पर पारदर्शिता संगठनों और उनके ग्राहकों का विश्वास अर्जित करने के लिए एक महत्वपूर्ण घटक होगी। AWS में, हम व्यापक समुदाय के लिए AI सर्विस कार्ड जैसे पारदर्शिता संसाधनों को लाने और आगे बढ़ने के सर्वोत्तम तरीकों पर प्रतिक्रिया एकत्र करने के लिए प्रतिबद्ध हैं।

संपूर्ण जेनरेटिव एआई जीवनचक्र में जिम्मेदार एआई में निवेश करना

हम इस सप्ताह री:इन्वेंट में घोषित नए नवाचारों से उत्साहित हैं जो हमारे ग्राहकों को जेनेरिक एआई को सुरक्षित रूप से बनाने और उपयोग करने के लिए अधिक उपकरण, संसाधन और अंतर्निहित सुरक्षा प्रदान करते हैं। मॉडल मूल्यांकन से लेकर रेलिंग से लेकर वॉटरमार्किंग तक, ग्राहक अब जोखिम को कम करते हुए अपने संगठन में तेजी से जेनेरिक एआई ला सकते हैं। ग्राहकों के लिए नई सुरक्षा जैसे आईपी क्षतिपूर्ति कवरेज और पारदर्शिता बढ़ाने के लिए अतिरिक्त एआई सर्विस कार्ड जैसे नए संसाधन भी प्रौद्योगिकी कंपनियों, नीति निर्माताओं, सामुदायिक समूहों, वैज्ञानिकों और अन्य के बीच विश्वास बनाने की हमारी प्रतिबद्धता के प्रमुख उदाहरण हैं। हम फाउंडेशन मॉडल के पूरे जीवनचक्र में जिम्मेदार एआई में सार्थक निवेश करना जारी रखते हैं - ताकि हमारे ग्राहकों को एआई को सुरक्षित, संरक्षित और जिम्मेदार तरीके से बढ़ाने में मदद मिल सके।

---

लेखक के बारे में

पीटर हॉलिनन जिम्मेदार एआई विशेषज्ञों की एक टीम के साथ एडब्ल्यूएस एआई में रिस्पॉन्सिबल एआई के विज्ञान और अभ्यास में पहल का नेतृत्व करता है। उन्हें एआई (पीएचडी, हार्वर्ड) और उद्यमिता (ब्लाइंडसाइट, अमेज़ॅन को बेचा गया) में गहरी विशेषज्ञता हासिल है। उनकी स्वयंसेवी गतिविधियों में स्टैनफोर्ड यूनिवर्सिटी स्कूल ऑफ मेडिसिन में एक परामर्शदाता प्रोफेसर के रूप में और मेडागास्कर में अमेरिकन चैंबर ऑफ कॉमर्स के अध्यक्ष के रूप में कार्य करना शामिल है। जब संभव हो, वह अपने बच्चों के साथ पहाड़ों में है: स्कीइंग, चढ़ाई, लंबी पैदल यात्रा और राफ्टिंग

वासी फिलोमिन वर्तमान में AWS में जेनरेटिव AI के उपाध्यक्ष हैं। वह अमेज़ॅन बेडरॉक, अमेज़ॅन टाइटन और अमेज़ॅन कोडव्हिस्परर सहित जेनेरिक एआई प्रयासों का नेतृत्व करते हैं।

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
• प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
• प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
• स्रोत: https://aws.amazon.com/blogs/machine-learning/announcing-new-tools-and-capabilities-to-enable-responsible-ai-innovation/