ओपनएआई ने चुनावों और मतदाता दमन में उपयोग से इनकार किया

ओपनएआई ने चुनावों और मतदाता दमन में उपयोग से इनकार किया

टाइम स्टैम्प: 20 जनवरी, 2024 सुबह 7:30 बजे
स्रोत नोड: 3073710

चुनावों में गलत सूचना से निपटने के लिए एक निर्णायक कदम में, ओपनएआई ने घोषणा की है कठोर रुख चुनाव अभियानों और मतदाता दमन रणनीति में अपने जेनरेटिव एआई टूल का उपयोग करने के खिलाफ।

यह घोषणा 2024 के लिए निर्धारित कई प्रमुख चुनावों की अखंडता सुनिश्चित करने की दिशा में एक आवश्यक कदम के रूप में आती है।

यह भी पढ़ें: ओपनएआई सीएनएन, फॉक्स और टाइम के साथ समाचार सामग्री लाइसेंसिंग पर बातचीत करता है

नवाचार और नीति के साथ दुरुपयोग का मुकाबला करना

ओपनएआई ने चुनाव परिणामों में हेरफेर करने के लिए अपनी तकनीक का शोषण होने से बचाने के लिए एक रणनीति शुरू की है। कंपनी ने कानूनी, इंजीनियरिंग और नीति सहित विभिन्न विभागों की विशेषज्ञता को मिलाकर चुनाव संबंधी चिंताओं पर ध्यान केंद्रित करते हुए एक विशेष टीम की स्थापना की है। इस टीम का प्राथमिक उद्देश्य चुनावों में एआई के संभावित दुरुपयोग की पहचान करना और उसे कम करना है।

"हमारे पास चुनाव कार्य के लिए समर्पित एक क्रॉस-फंक्शनल प्रयास है, जो हमारी सुरक्षा प्रणालियों, खतरे की खुफिया जानकारी, कानूनी, इंजीनियरिंग और नीति टीमों की विशेषज्ञता को एक साथ लाता है।"

राजनीति में गलत सूचना का ख़तरा नया नहीं है, फिर भी एआई तकनीक का आगमन अभूतपूर्व चुनौतियाँ प्रस्तुत करता है। इसे पहचानते हुए, OpenAI सक्रिय कदम उठा रहा है। कंपनी की योजना रेड टीमिंग, उपयोगकर्ता सहभागिता और सुरक्षा रेलिंग जैसी तकनीकों का मिश्रण नियोजित करने की है। विशेष रूप से, उनकी छवि जनरेशन टूल, DALL-E, राजनीतिक उम्मीदवारों सहित वास्तविक लोगों को चित्रित करने वाली छवियों के निर्माण को रोकने के लिए अद्यतन किया गया है।

"DALL·E के पास उन अनुरोधों को अस्वीकार करने के लिए रेलिंग है जो उम्मीदवारों सहित वास्तविक लोगों की छवि निर्माण के लिए कहते हैं।"

एआई प्रौद्योगिकी के उभरते परिदृश्य और इसके संभावित दुरुपयोग के साथ तालमेल बनाए रखने के लिए ओपनएआई अपनी उपयोगकर्ता नीतियों को लगातार संशोधित करता रहता है। इसकी अद्यतन सुरक्षा नीतियां अब राजनीतिक प्रचार और पैरवी के लिए एआई अनुप्रयोगों के विकास को स्पष्ट रूप से प्रतिबंधित करती हैं। इसके अतिरिक्त, वास्तविक लोगों या संगठनों की नकल करने वाले चैटबॉट के निर्माण को रोकने के लिए उपाय किए गए हैं।

पारदर्शिता और जवाबदेही बढ़ाना

OpenAI की रणनीति का एक प्रमुख घटक इसके DALL-E टूल के लिए एक उद्गम वर्गीकरणकर्ता की शुरूआत है। यह सुविधा, जो वर्तमान में बीटा परीक्षण में है, DALL-E द्वारा उत्पन्न छवियों का पता लगा सकती है। कंपनी का लक्ष्य एआई-जनित सामग्री में पारदर्शिता बढ़ाने के लिए इस टूल को पत्रकारों, प्लेटफार्मों और शोधकर्ताओं के लिए सुलभ बनाना है।

"हम जल्द ही इसे फीडबैक के लिए पत्रकारों, प्लेटफार्मों और शोधकर्ताओं सहित हमारे परीक्षकों के पहले समूह को उपलब्ध कराने की योजना बना रहे हैं।"

OpenAI वास्तविक समय की समाचार रिपोर्टिंग को भी एकीकृत कर रहा है ChatGPT. इस एकीकरण का उद्देश्य उपयोगकर्ताओं को एआई द्वारा प्रदान की गई जानकारी के स्रोतों के आसपास पारदर्शिता बढ़ाते हुए सटीक और समय पर जानकारी प्रदान करना है।

अमेरिका में नेशनल एसोसिएशन ऑफ सेक्रेटरीज ऑफ स्टेट के साथ एक संयुक्त प्रयास में, ओपनएआई अपनी तकनीक को चुनावी भागीदारी को हतोत्साहित करने से रोकने पर केंद्रित है। टीमवर्क में GPT-संचालित चैटबॉट उपयोगकर्ताओं को CanIVote.org जैसी विश्वसनीय मतदान सूचना वेबसाइटों पर निर्देशित करना शामिल है।

एआई दौड़ में प्रतिद्वंद्वी भी उनका अनुसरण करते हैं

OpenAI की घोषणा ने AI उद्योग में एक मिसाल कायम की है, जैसे प्रतिद्वंद्वियों के साथ Google LLC और मेटा प्लेटफ़ॉर्म इंक भी अपनी प्रौद्योगिकियों के माध्यम से फैली गलत सूचना से निपटने के उपाय लागू कर रहे हैं। उद्योग जगत के नेताओं का यह सामूहिक प्रयास लोकतांत्रिक प्रक्रियाओं पर एआई के संभावित प्रभाव के प्रति बढ़ती जागरूकता और जिम्मेदारी का प्रतीक है।

लेकिन क्या ये काफी है? पंड-आईटी इंक के चार्ल्स किंग ने एक महत्वपूर्ण मुद्दा उठाते हुए सवाल उठाया कि क्या ये उपाय समय पर हैं या प्रतिक्रियाशील हैं। उनका तर्क है कि एआई-जनित गलत सूचना के बारे में चिंताएं वर्षों से मौजूद हैं, और ओपनएआई की हालिया घोषणा को बहुत कम, बहुत देर से देखा जा सकता है। यह परिप्रेक्ष्य राजनीतिक परिदृश्य में एआई डेवलपर्स की भूमिका और जिम्मेदारी पर गहन चिंतन को प्रेरित करता है।

“तो सबसे अच्छा, यह घोषणा बताती है कि ओपनएआई स्विच पर सो रहा था। लेकिन सबसे बुरी स्थिति में, यह हाथ धोने की रस्म जैसा दिखता है, जिसे ओपनएआई तब इंगित कर सकता है जब इस साल आगामी वैश्विक चुनावों के दौरान जेनरेटिव एआई प्रशंसक को हिट करता है।

समय टिकट:

से अधिक मेटान्यूज