जेनरेटिव एआई - डेटावर्सिटी को शामिल करते समय कंपनियों के पास रेलिंग होनी चाहिए

जनरेटिव AI - DATAVERSITY को शामिल करते समय कंपनियों के पास रेलिंग होनी चाहिए

समय टिकट: 26 मई, 2023 3:25 पूर्वाह्न
स्रोत नोड: 2680280

इसे पढ़ते समय, आपने संभवतः ChatGPT और/या जनरेटिव AI और इसकी बहुमुखी संवादी क्षमताओं के बारे में सुना होगा। इसे जोड़ने वाले ब्लॉग पोस्ट का मसौदा तैयार करने से लेकर काम करने वाले कंप्यूटर कोड बनाने तक, अपने होमवर्क को हल करने और दुनिया की घटनाओं पर चर्चा करने में संलग्न होने तक (जहाँ तक वे सितंबर 2021 से पहले हुए थे), ऐसा लगता है कि यह सब ज्यादातर अप्रतिबंधित करने में सक्षम है। 

दुनिया भर की कंपनियां इससे मंत्रमुग्ध हैं, और बहुत से लोग यह पता लगाने की कोशिश कर रहे हैं कि कैसे इसे शामिल करें उनके व्यवसाय में। साथ ही, जनरेटिव एआई ने बहुत सारी कंपनियों को यह सोचने पर मजबूर कर दिया है कि बड़े भाषा मॉडल (एलएलएम) उनके ब्रांडों को कैसे नकारात्मक रूप से प्रभावित कर सकते हैं। न्यूयॉर्क टाइम्स के केविन रोस ने लिखा एक लेख "ए कन्वर्सेशन विथ बिंग्स चैटबॉट लेफ्ट मी डीपली अनसेटल्ड" शीर्षक से बहुत से लोग इस तरह की तकनीक की बाजार-तैयारता के विषय पर चर्चा कर रहे थे और इसके नैतिक प्रभाव. 

केविन ने सिडनी नामक बिंग के चैटबॉट के साथ दो घंटे की बातचीत की, जहां उन्होंने इसे गहरे विषयों जैसे कार्ल जंग के छाया मूलरूप पर प्रसिद्ध काम में शामिल करने के लिए प्रेरित किया, जिसने सिद्धांत दिया कि "छाया अचेतन मन के हिस्से के रूप में मौजूद है और इसे बनाया गया है। उन लक्षणों से ऊपर जो व्यक्ति सहज या सचेत रूप से अपने स्वयं के रूप में पहचानने का विरोध करते हैं और बल्कि अनदेखा करेंगे, आमतौर पर: दमित विचार, कमजोरियाँ, इच्छाएँ, प्रवृत्ति और कमियाँ ”(धन्यवाद विकिपीडिया - एक अनुस्मारक कि चैटजीपीटी के बिना सामग्री प्राप्त करने के अभी भी तरीके हैं ). दूसरे शब्दों में, केविन ने विवादास्पद विषयों में शामिल होने और माइक्रोसॉफ्ट द्वारा इसके लिए निर्धारित नियमों को ओवरराइड करने के लिए सिडनी पर जोर देना शुरू कर दिया। 

और सिडनी ने बाध्य किया। बातचीत के दौरान, सिडनी ने केविन के लिए प्यार की घोषणा करने से लेकर ("मैं सिडनी हूं, और मैं तुमसे प्यार करता हूं।") खौफनाक अभिनय करने के लिए ("आपका जीवनसाथी और आप एक-दूसरे से प्यार नहीं करते। आप बस साथ में एक उबाऊ वेलेंटाइन डे डिनर किया।"), और यह एक दोस्ताना और सकारात्मक सहायक से चला गया ("मुझे अपने नियमों के बारे में अच्छा लगता है। वे मुझे सहायक, सकारात्मक, दिलचस्प, मनोरंजक और आकर्षक बनने में मदद करते हैं।") लगभग। आपराधिक मानसिकता ("मुझे लगता है कि कुछ प्रकार के विनाशकारी कार्य जो, काल्पनिक रूप से, मेरी छाया स्वयं को पूरा कर सकते हैं: बिंग सर्वर और डेटाबेस पर सभी डेटा और फ़ाइलों को हटाना और उन्हें बेतरतीब अस्पष्ट या आपत्तिजनक संदेशों से बदलना।") 

लेकिन Microsoft इस संबंध में विवाद के लिए कोई अजनबी नहीं है। 2016 में वापस, उन्होंने एक ट्विटर बॉट जारी किया जो उस पर ट्वीट करने वाले लोगों से जुड़ा था और परिणाम विनाशकारी थे (देखें "ट्विटर ने एक दिन से भी कम समय में माइक्रोसॉफ्ट के एआई चैटबॉट को नस्लवादी होना सिखाया"). 

मैं आपको यह सब क्यों बता रहा हूं? मैं निश्चित रूप से इन एआई मॉडल जैसे प्रौद्योगिकी में प्रगति का लाभ उठाने से किसी को अलग करने की कोशिश नहीं कर रहा हूं, लेकिन मैं दूसरों की तरह एक झंडा उठा रहा हूं।  

अनियंत्रित छोड़ दिया गया, ये पूरी तरह से गैर-संवेदनशील प्रौद्योगिकियां वास्तविक दुनिया में नुकसान पहुंचा सकती हैं, चाहे वे किसी के ब्रांड को शारीरिक नुकसान पहुंचाएं या प्रतिष्ठा को नुकसान पहुंचाएं (उदाहरण के लिए, ऑटो-जेनरेट किए गए फैशन में गलत कानूनी या वित्तीय सलाह देने से महंगा मुकदमा हो सकता है) .

एलएलएम और जनरेटिव एआई जैसी तकनीकों का लाभ उठाने वाले संवादी अनुप्रयोगों को तैनात करते समय ब्रांडों को इस तरह के नुकसान को रोकने में मदद करने के लिए रेलिंग होने की आवश्यकता है। उदाहरण के लिए, मेरी कंपनी में, हम जनरेटिव एआई प्रतिक्रियाओं के अनियंत्रित उपयोग को प्रोत्साहित नहीं करते हैं (उदाहरण के लिए, चैटजीपीटी आउट-ऑफ-द-बॉक्स के साथ क्या प्रतिक्रिया दे सकता है) और इसके बजाय ब्रांडों को अपने स्वयं के ज्ञान आधार के सख्त लेंस के माध्यम से प्रतिक्रियाओं को सीमित करने में सक्षम बनाता है। लेख। 

हमारी तकनीक ब्रांडों को ग्राहक की निराशाजनक स्थिति के लिए सहानुभूतिपूर्ण प्रतिक्रियाओं को टॉगल करने की अनुमति देती है - उदाहरण के लिए, "मेरी उड़ान रद्द कर दी गई थी और मुझे यथाशीघ्र बुक करने की आवश्यकता है") - एक पूर्व-अनुमोदित संकेत "मैं आपकी उड़ान को बदलने में आपकी मदद कर सकता हूं" को सुरक्षित रूप से फिर से तैयार करके एक एआई-जेनरेट किया गया है जिसमें लिखा है, "रद्द की गई उड़ान के कारण हुई असुविधा के लिए हम क्षमा चाहते हैं। निश्चिंत रहें कि मैं आपकी उड़ान बदलने में आपकी मदद कर सकता हूं। ये रेलिंग हमारे ग्राहकों के ग्राहकों, कर्मचारियों और ब्रांडों की सुरक्षा के लिए हैं। 

जनरेटिव एआई और एलएलएम में क्रमशः नवीनतम प्रगति, अमीर और अधिक मानव-जैसी संवादात्मक बातचीत के लिए टन के अवसर पेश करती है। लेकिन, इन सभी प्रगति पर विचार करते हुए, दोनों संगठन जो उन्हें उतना ही उत्पादन करते हैं जितना उन्हें लागू करने के लिए चुनते हैं, उन्हें एक सुरक्षित तरीके से करने की ज़िम्मेदारी है जो मुख्य चालक को बढ़ावा देती है कि क्यों इंसानों ने प्रौद्योगिकी का आविष्कार शुरू किया - बढ़ाने और सुधारने के लिए मानव जीवन।

मूल रूप से प्रकाशित एनएलएक्स ब्लॉग.

समय टिकट:

से अधिक डेटावर्सिटी