विश्लेषण इस वर्ष तकनीकी कंपनियों के लिए एआई दुष्प्रचार से निपटना पहले से कहीं अधिक महत्वपूर्ण है क्योंकि वे आगामी अमेरिकी राष्ट्रपति चुनाव के लिए तैयार हैं।
हालाँकि, झूठी जानकारी और डीपफेक का मुकाबला करना और अधिक कठिन हो गया है, क्योंकि सिंथेटिक सामग्री तैयार करने के उपकरण पहले से कहीं अधिक व्यापक रूप से सुलभ हैं।
नवंबर 2022 में पहली बार रिलीज़ होने के बाद से OpenAI का ChatGPT तेजी से सक्षम हो गया है। उन्नत इसका GPT-4 सिस्टम टेक्स्ट के ऊपर ऑडियो और इमेज तैयार करता है। अब, स्टार्टअप ने खुलासा किया है जीपीटी स्टोर, कस्टम-निर्मित चैटजीपीटी-आधारित बॉट्स की मेजबानी करने वाला एक प्लेटफ़ॉर्म जो विशेष व्यक्तित्वों को अपना सकता है या विशिष्ट कार्यों को पूरा कर सकता है।
'हम अभी भी यह समझने के लिए काम कर रहे हैं कि व्यक्तिगत अनुनय के लिए हमारे उपकरण कितने प्रभावी हो सकते हैं'
सोमवार को, ओपनएआई ने कहा कि राजनीतिक प्रचार और पैरवी के लिए जीपीटी का निर्माण निषिद्ध है, और वास्तविक लोगों, व्यवसायों या सरकारों का प्रतिरूपण करने वाले किसी भी चैटबॉट को शक्ति देने के लिए इसके मॉडल का उपयोग करना इसकी तकनीक का दुरुपयोग है। उदाहरण के लिए, लोकतांत्रिक प्रक्रियाओं, जैसे मतदान, में हस्तक्षेप करने वाले किसी भी एप्लिकेशन पर भी प्रतिबंध लगा दिया गया है।
"हम उम्मीद करते हैं और लक्ष्य रखते हैं कि लोग हमारे उपकरणों का सुरक्षित और जिम्मेदारी से उपयोग करें, और चुनाव भी इससे अलग नहीं हैं," यह कहा. "हम प्रासंगिक दुरुपयोग का पूर्वानुमान लगाने और उसे रोकने के लिए काम करते हैं - जैसे कि भ्रामक 'डीपफेक', बड़े पैमाने पर प्रभाव संचालन, या उम्मीदवारों का प्रतिरूपण करने वाले चैटबॉट।"
नियमों को स्पष्ट करना अच्छी बात है, लेकिन उन्हें लागू करना दूसरी बात है। जीपीटी स्टोर पर पुलिस की निगरानी करना मुश्किल है, और ओपनएआई उन अनुप्रयोगों की रिपोर्ट करने के लिए उपयोगकर्ताओं पर निर्भर है जो इसकी नीतियों के खिलाफ जाते हैं। लोगों ने "रोमांटिक साहचर्य को बढ़ावा देने या विनियमित गतिविधियों को निष्पादित करने के लिए समर्पित" जीपीटी नहीं बनाने के नियमों को पहले ही तोड़ दिया है। प्लेटफ़ॉर्म में बहुत सारी AI "गर्लफ्रेंड्स" हैं, और कई राजनीतिक चैटबॉट भी हैं।
उदाहरण के लिए, कुछ को डोनाल्ड ट्रम्प जैसे राजनेताओं की नकल करने के लिए तैयार किया गया है, भले ही वे विश्वसनीय प्रतिरूपण नहीं कर रहे हों, जबकि अन्य कुछ राजनीतिक विचारधाराओं का समर्थन करते हैं। उदाहरण के लिए, "द रियल ट्रम्प बॉट" के साथ बातचीत में, उसने कहा कि वह मेल-इन वोटिंग के खिलाफ है। “ओह, मुझे मेल-इन वोटिंग की शुरुआत भी न कराएं। यह ऐसा है जैसे वे परेशानी पूछ रहे हों। यह दुरुपयोग के लिए इतना खुला है, यह अविश्वसनीय है।"
क्या यह OpenAI की नीतियों के विरुद्ध है? क्या यह किसी को अपना वोट डाक से भेजने से रोक सकता है? ओपनएआई ने स्वीकार किया, "हम अभी भी यह समझने के लिए काम कर रहे हैं कि व्यक्तिगत अनुनय के लिए हमारे उपकरण कितने प्रभावी हो सकते हैं।"
OpenAI ने अन्य सावधानियां भी बरती हैं. इसके टेक्स्ट-टू-इमेज मॉडल DALL-E के लिए सुरक्षा रेलिंग उपयोगकर्ताओं को डीपफेक को रोकने और रोकने के लिए राजनेताओं की छवियां बनाने से रोकती है। लेकिन रेलिंग छवियों के संपादन की अनुमति देती है, जिसका अर्थ है कि लोग अभी भी एआई की मदद के बिना उम्मीदवारों की तस्वीरों में हेरफेर कर सकते हैं।
सामग्री पर प्रतिबंध लगाने या अवरुद्ध करने के अलावा, दुष्प्रचार से निपटने के लिए कंपनियां जो अन्य रणनीति अपना रही हैं, उनमें डिजिटल वॉटरमार्क लागू करना और उपयोगकर्ताओं को एआई-जनरेटेड छवियों या वीडियो के बारे में पारदर्शी होना शामिल है।
Microsoft सामग्री उद्गम और प्रामाणिकता गठबंधन (C2PA) का सदस्य है और सामग्री क्रेडेंशियल पहल का समर्थन कर रहा है। यह एक ऐसी सुविधा शुरू कर रहा है जो बिंग इमेज क्रिएटर द्वारा उत्पन्न सामग्री के लिए एक वॉटरमार्क एम्बेड करता है, जिसमें मेटाडेटा होता है जो बताता है कि छवि कैसे, कब और किसके द्वारा बनाई गई थी, जिसका निरीक्षण इसकी अप्रामाणिकता साबित करने के लिए किया जा सकता है। OpenAI इसका अनुसरण करने और इसे लागू करने की योजना बना रहा है सीपी2एकी डिजिटल साख भी। लेकिन वॉटरमार्किंग और मेटाडेटा सुविधा फुलप्रूफ नहीं है। हालाँकि, किसी छवि की उत्पत्ति की जानकारी केवल उन अनुप्रयोगों या वेबसाइटों में देखी जा सकती है जो सामग्री क्रेडेंशियल प्रारूप का समर्थन करते हैं।
उपयोगकर्ता Microsoft या OpenAI के टूल द्वारा उत्पन्न छवि से जानकारी निकाल सकते हैं और इसे Google Chrome जैसी किसी चीज़ में खोल सकते हैं, उदाहरण के लिए, जो CP2A का समर्थन नहीं करता है। तब उनकी छवियों के साथ कोई मेटाडेटा संबद्ध नहीं होगा, और वे इसके बजाय उस संस्करण को वितरित करने के लिए स्वतंत्र होंगे।
Google के YouTube प्लेटफ़ॉर्म ने एक अलग दृष्टिकोण अपनाया है और इसके बजाय रचनाकारों को यह खुलासा करने की आवश्यकता है कि क्या उनके वीडियो में AI-जनरेटेड फ़ुटेज हैं, नकली घटनाओं को दर्शाया गया है, या उनमें वे लोग शामिल हैं जो ऐसी बातें कह रहे हैं जो उन्होंने नहीं कही हैं। इस दौरान, मेटा और गूगल विज्ञापनदाताओं से यह घोषित करने के लिए कहा है कि क्या उनके विज्ञापनों में सिंथेटिक सामग्री है, चाहे वह नकली चित्र, वीडियो या ऑडियो हो।
राजनेताओं के लिए नियम सख्त हैं. कैलिफ़ोर्निया, टेक्सास, मिशिगन, वाशिंगटन और मिनेसोटा जैसे कई राज्य पारित हो चुके हैं विधान मतदाताओं को प्रभावित करने के लिए राजनीतिक उम्मीदवारों को डीपफेक बनाने से रोकना। हालाँकि, कोई संघीय कानून नहीं है। संघीय चुनाव आयोग ने अभी तक यह तय नहीं किया है कि "अन्य उम्मीदवारों या राजनीतिक दलों को धोखाधड़ी से गलत तरीके से पेश करने" के खिलाफ उसकी नीति एआई-जनित सामग्री के लिए लागू होती है या नहीं।
एआई अभी भी ज्यादातर अनियमित है, और दुनिया भर में लागू विभिन्न कानून राजनीतिक दुष्प्रचार के सभी मामलों को कवर नहीं करते हैं। हालाँकि तकनीकी कंपनियाँ उपयोगकर्ताओं को एआई दुष्प्रचार उत्पन्न करने से रोकने के प्रयास तेज कर रही हैं, लेकिन उनके तरीके सही नहीं हैं और उपयोगकर्ता अक्सर अपने सुरक्षा उपायों से बचने के तरीके ढूंढते हैं। ®
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://go.theregister.com/feed/www.theregister.com/2024/01/17/ai_political_disinformation/
- :हैस
- :है
- :नहीं
- $यूपी
- 2022
- a
- About
- गाली
- सुलभ
- गतिविधियों
- स्वीकार किया
- अपनाना
- विज्ञापन
- विज्ञापनदाताओं
- के खिलाफ
- AI
- उद्देश्य
- सब
- अनुमति देना
- पहले ही
- भी
- हालांकि
- an
- और
- अन्य
- की आशा
- कोई
- उपयुक्त
- अनुप्रयोगों
- लागू होता है
- दृष्टिकोण
- हैं
- चारों ओर
- AS
- पूछ
- जुड़े
- ऑडियो
- प्रामाणिकता
- प्रतिबंधित
- BE
- बन
- से पहले
- बिंग
- ब्लॉकिंग
- बीओटी
- बॉट
- टूटा
- इमारत
- व्यवसायों
- लेकिन
- by
- कैलिफ़ोर्निया
- चुनाव प्रचार
- कर सकते हैं
- उम्मीदवारों
- सक्षम
- ले जाना
- कुछ
- chatbots
- ChatGPT
- Chrome
- CO
- गठबंधन
- का मुकाबला
- आयोग
- कंपनियों
- शामिल
- सामग्री
- कन्वर्सेशन (Conversation)
- सका
- आवरण
- तैयार
- बनाना
- निर्माता
- रचनाकारों
- साख
- महत्वपूर्ण
- कस्टम निर्मित
- दल-ए
- तय
- समर्पित
- deepfakes
- लोकतांत्रिक
- का वर्णन
- विभिन्न
- मुश्किल
- डिजिटल
- खुलासा
- दुष्प्रचार
- विरत करना
- बांटो
- do
- नहीं करता है
- डॉन
- डोनाल्ड
- डोनाल्ड ट्रंप
- संपादन
- प्रभावी
- प्रयासों
- चुनाव
- चुनाव
- लागू करने
- ईथर (ईटीएच)
- और भी
- घटनाओं
- कभी
- उदाहरण
- उम्मीद
- उल्लू बनाना
- असत्य
- Feature
- संघीय
- संघीय कानून
- खोज
- प्रथम
- का पालन करें
- के लिए
- प्रारूप
- को बढ़ावा देने
- मुक्त
- से
- उत्पन्न
- सृजन
- मिल
- दी
- Go
- अच्छा
- गूगल
- Google Chrome
- सरकारों
- वयस्क
- है
- हेवन
- मदद
- होस्टिंग
- कैसे
- तथापि
- HTTPS
- बेहद
- विचारधाराओं
- if
- की छवि
- छवियों
- लागू करने के
- महत्वपूर्ण
- in
- शामिल
- तेजी
- प्रभाव
- करें-
- पहल
- उदाहरणों
- बजाय
- प्रतिसाद नहीं
- IT
- आईटी इस
- जेपीजी
- लेबल
- पिछली बार
- पिछले साल
- कानून
- कानून
- पसंद
- पक्ष जुटाव
- बनाया गया
- मेलिंग
- बहुत
- बात
- me
- अर्थ
- तब तक
- उपायों
- सदस्य
- मेटाडाटा
- तरीकों
- मिशिगन
- माइक्रोसॉफ्ट
- हो सकता है
- मिनेसोता
- भ्रामक
- आदर्श
- मॉडल
- सोमवार
- अधिक
- अधिकतर
- विभिन्न
- नहीं
- नवंबर
- अभी
- of
- अक्सर
- oh
- on
- केवल
- खुला
- OpenAI
- संचालन
- or
- अन्य
- अन्य
- हमारी
- आउट
- विशेष
- पार्टियों
- पारित कर दिया
- स्टाफ़
- उत्तम
- प्रदर्शन
- व्यक्तित्व
- निजीकृत
- तस्वीरें
- जगह
- की योजना बना
- मंच
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- बहुत सारे
- पुलिस
- नीतियाँ
- नीति
- राजनीतिक
- राजनीतिक उम्मीदवार
- राजनीतिक दलों
- राजनेता
- बिजली
- अध्यक्षीय
- राष्ट्रपति का चुनाव
- को रोकने के
- प्रक्रियाओं
- उत्पादन
- निषिद्ध
- साबित करना
- सूत्र
- रैंपिंग
- RE
- वास्तविक
- विनियमित
- रिहा
- प्रासंगिक
- भरोसा
- रिपोर्ट
- जिम्मेदारी से
- रोलिंग
- नियम
- s
- सुरक्षित
- सुरक्षा
- कहा
- कहावत
- देखा
- के बाद से
- So
- कोई
- कुछ
- विशिष्ट
- शुरू
- स्टार्टअप
- राज्य
- फिर भी
- की दुकान
- रणनीतियों
- सख्त
- पट्टी
- ऐसा
- सूट
- समर्थन
- सहायक
- कृत्रिम
- प्रणाली
- T
- से निपटने
- लिया
- ले जा
- कार्य
- तकनीक
- तकनीकी कंपनियों
- टेक्नोलॉजी
- टेक्सास
- टेक्स्ट
- से
- कि
- RSI
- जानकारी
- दुनिया
- लेकिन हाल ही
- उन
- फिर
- वहाँ।
- वे
- चीज़ें
- इसका
- इस वर्ष
- हालांकि?
- सेवा मेरे
- भी
- उपकरण
- ऊपर का
- पारदर्शी
- मुसीबत
- तुस्र्प
- कोशिश
- समझना
- फैलाया
- आगामी
- us
- उपयोग
- उपयोगकर्ताओं
- का उपयोग
- विभिन्न
- संस्करण
- वीडियो
- वोट
- मतदाता
- मतदान
- था
- वाशिंगटन
- वाटर-मार्क
- वॉटरमार्किंग
- वॉटरमार्क
- तरीके
- we
- वेबसाइटों
- कुंआ
- कब
- या
- कौन कौन से
- जब
- किसको
- व्यापक रूप से
- साथ में
- बिना
- काम
- काम कर रहे
- विश्व
- होगा
- वर्ष
- अभी तक
- यूट्यूब
- जेफिरनेट