वॉटरमार्किंग सामग्री अभी भी वास्तविक और एआई-जनित सामग्री के बीच अंतर करने के लिए पर्याप्त नहीं है, क्योंकि साइबर अपराधी सुरक्षा सुविधाओं को भी बायपास कर सकते हैं।
ऐसा तब होता है जब एआई प्रौद्योगिकियों, विशेष रूप से जेनरेटिव एआई को अपनाना बढ़ रहा है, जिससे बेईमान व्यक्तियों के लिए गलत सूचना, नफरत और अन्य प्रकार की दुर्भावनापूर्ण सामग्री फैलाने के लिए इसका उपयोग करने के लिए उपजाऊ जमीन तैयार हो रही है।
और वॉटरमार्किंग एआई-जनित सामग्री और वास्तविक जीवन की सामग्री के बीच अंतर करने के प्रमुख समाधानों में से एक के रूप में उभरा है। फिर भी इसकी अपनी कमियाँ भी हैं।
यह भी पढ़ें: मेटा का ऑडियो2फोटोरियल अब आवाज-संचालित फोटोरियलिस्टिक अवतारों की अनुमति देता है
हेराफेरी
विशेषज्ञों का कहना है कि एआई की वृद्धि में गलत सूचना और द्वेष फैलाने और फर्जी खबरों से दहशत पैदा करने के लिए प्रौद्योगिकी का लाभ उठाने वाले बुरे कलाकारों के साथ भी आता है।
हालाँकि वॉटरमार्किंग की पहचान उपयोगकर्ताओं को एआई-जनित सामग्री और वास्तविक मानव-निर्मित सामग्री के बीच अंतर करने में सक्षम बनाने के लिए की गई है, लेकिन इसमें भी हेरफेर की संभावना है।
के अनुसार रजिस्टर, कुछ दृश्यमान हस्ताक्षर, जैसे कि डैल-ई टेक्स्ट-टू-इमेज मॉडल, एआई डिटेक्शन टूल को बायपास करने के लिए सबसे आसान में से एक हैं। लेख में आगे कहा गया है कि बेईमान व्यक्ति वॉटरमार्क को काट सकते हैं या छवि को ऐसे तरीकों से कॉपी कर सकते हैं जो सीधे डाउनलोडिंग को बायपास करते हैं।
अमेरिका में बफ़ेलो विश्वविद्यालय के कंप्यूटर विज्ञान के प्रोफेसर सिवेई ल्यू ने कहा कि जब बाधाओं को तोड़ने की बात आती है तो विशेषज्ञ भी होते हैं।
ल्यू ने कहा, "वॉटरमार्किंग तकनीक का उपयोग नमक के दाने के साथ किया गया है क्योंकि वॉटरमार्क और एआई का ज्ञान रखने वाले किसी व्यक्ति के लिए इसे तोड़ना और वॉटरमार्क को हटाना या उसका निर्माण करना इतना कठिन नहीं है।"
एआई विशेषज्ञ और एक गैर-लाभकारी संगठन के कार्यकारी निदेशक, जो लोगों को मानव अधिकारों को बढ़ावा देने के लिए प्रौद्योगिकी का उपयोग करने में मदद करते हैं, सैम ग्रेगरी, सोचता वॉटरमार्किंग में अभी भी बुरे अभिनेताओं द्वारा हेरफेर किया जा सकता है।
उनके लिए, यह "नुकसान कम करने के लिए एक ट्राइएज टूल" है, उन्होंने आगे कहा कि "यह 100% समाधान नहीं है।"
वॉटरमार्क के प्रकार
हालाँकि, बेईमान, बुरे अभिनेताओं के लिए यह सब अच्छा नहीं है। कुछ वॉटरमार्क जो अदृश्य हैं, जैसे Google DeepMind सिंथआईडी, इनसे छुटकारा पाना मुश्किल है क्योंकि वे "सीधे इमेजन के सिस्टम आउटपुट में एम्बेडेड हैं।"
इस प्रकार के वॉटरमार्क को नग्न आंखों से नहीं देखा जा सकता है लेकिन विशेष सॉफ़्टवेयर या एल्गोरिदम का उपयोग करके इसका पता लगाया जा सकता है।
हालाँकि, ल्यू अभी भी सोचता है कि कुछ "तकनीकी जानकारी" वाले बदमाशों के लिए इसे साफ़ करना संभव है।
“मुझे लगता है कि वॉटरमार्क ज्यादातर लोगों की अपने अस्तित्व के प्रति अनभिज्ञता पर प्रभाव डालते हैं। इसलिए, अगर वे जानते हैं कि वे कर सकते हैं, तो वे इसे तोड़ने का एक रास्ता खोज लेंगे, ”ल्यू ने कहा।
एक अन्य प्रकार का वॉटरमार्क दृश्यमान है, जो सामग्री की वैधता को सत्यापित करने के लिए Google, Getty और OpenAI जैसी कंपनियों द्वारा वीडियो, टेक्स्ट या छवियों में जोड़ा जाता है।
तीसरे प्रकार का वॉटरमार्क क्रिप्टोग्राफ़िक मेटाडेटा है। यह दिखाता है कि सामग्री कब बनाई गई थी और इसे कैसे संपादित किया गया है।
"वाशिंग आउट" वॉटरमार्क
कंप्यूटर विज्ञान के प्रोफेसर सोहेल फ़ेज़ी के नेतृत्व में मैरीलैंड विश्वविद्यालय के एक अध्ययन में एआई वॉटरमार्क कहा गया मूर्खतापूर्ण नहीं थे. उन्होंने सभी प्रकार के वॉटरमार्क का परीक्षण किया और "उन सभी को तोड़ दिया।"
"हमारे पास इस बिंदु पर कोई विश्वसनीय वॉटरमार्किंग नहीं है," उन्होंने कहा।
प्रोफेसर ने यह भी बताया कि बुरे अभिनेताओं के लिए वॉटरमार्क में हेरफेर करना कितना आसान है, जिसे उन्होंने वॉटरमार्क को "धोने" के रूप में वर्णित किया है।
कैलिफ़ोर्निया विश्वविद्यालय, सांता बारबरा और कार्नेगी मेलन के शोधकर्ताओं द्वारा सह-लिखित एक अन्य अध्ययन में भी यही निष्कर्ष थे।
"सभी दृश्यमान वॉटरमार्क विश्वसनीय नहीं हैं," पढ़ता कागज़।
समय-संवेदनशील समस्या
एआई से संबंधित कानून के प्रारूपण में शामिल अमेरिकी सीनेट के एक कर्मचारी ने फेडस्कोप को "बुरे अभिनेताओं के साथ तालमेल बनाए रखने" की आवश्यकता के बारे में बताया, और कहा कि सीनेट वर्तमान में "शिक्षा और समस्या को परिभाषित करने" के युग में है।
"यह ओलंपिक एथलीटों की तरह है - अब जब मुझे पता चला है कि आप इस दवा की तलाश में हैं, तो मैं दूसरी दवा ले लूंगा।"
- कई देश चुनाव में जा रहे हैं इस वर्ष, डीपफेक और गलत सूचना को कम करने के उपायों की आवश्यकता को नजरअंदाज नहीं किया जा सकता है। पिछले सितंबर में, सीनेट के बहुमत नेता चक शूमर ने कहा था कि सामग्री की प्रामाणिकता से निपटना एक समस्या थी समय-संवेदनशील मुद्दा यह देखते हुए कि कई देशों में चुनाव नजदीक हैं।
उन्होंने अपने पहले भाषण के बाद कहा, "वास्तव में डीपफेक होने का मुद्दा है, जहां लोग वास्तव में विश्वास करते हैं... कि एक उम्मीदवार कुछ कह रहा है जबकि वे पूरी तरह से एआई की रचना हैं।" बंद दरवाजे वाली एआई अंतर्दृष्टि मंच.
टेक कंपनियां चुनौती स्वीकार करती हैं
इस बीच, मीडिया और तकनीकी कंपनियों के दिमाग की उपज, कंटेंट प्रोवेनेंस एंड ऑथेंटिसिटी (C2PA) के लिए गठबंधन अब अस्तित्व में है। यह छवि के स्रोत की पहचान करता है, चाहे वह कैमरा हो या एआई प्रोग्राम जिसका उपयोग इसे बनाने के लिए किया गया था।
यह छवि के निर्माण के समय, स्थान और विधि का विवरण भी देता है, जिससे लोगों को इसकी उत्पत्ति को सत्यापित करने की अनुमति मिलती है। कथित तौर पर वॉटरमार्किंग के मामले में टिकटॉक शीर्ष तकनीकी कंपनियों में से एक है।
“टिकटॉक आपको वह ऑडियो ट्रैक दिखाता है जिसका उपयोग किया गया था; यह आपको वह सिलाई दिखाता है जो बनाई गई थी; यह आपको उपयोग किए गए एआई प्रभावों को दिखाता है," ग्रेगरी ने कहा।
अन्य बड़े तकनीकी कंपनियों अल्फाबेट, अमेज़ॅन, मेटा और ओपनएआई ने गलत सूचना से निपटने के लिए वॉटरमार्किंग तकनीक विकसित करने का पिछले साल वादा किया था।
- एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
- प्लेटोडेटा.नेटवर्क वर्टिकल जेनरेटिव एआई। स्वयं को शक्तिवान बनाएं। यहां पहुंचें।
- प्लेटोआईस्ट्रीम। Web3 इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
- प्लेटोईएसजी. कार्बन, क्लीनटेक, ऊर्जा, पर्यावरण, सौर, कचरा प्रबंधन। यहां पहुंचें।
- प्लेटोहेल्थ। बायोटेक और क्लिनिकल परीक्षण इंटेलिजेंस। यहां पहुंचें।
- स्रोत: https://metanews.com/bad-actors-can-still-bypass-watermarks/
- :हैस
- :है
- :नहीं
- :कहाँ
- 8
- 9
- a
- योग्य
- अभिनेताओं
- वास्तव में
- जोड़ा
- जोड़ने
- दत्तक ग्रहण
- लाभ
- बाद
- AI
- एल्गोरिदम
- सब
- की अनुमति दे
- की अनुमति देता है
- वर्णमाला
- भी
- वीरांगना
- के बीच में
- an
- और
- अन्य
- कोई
- हैं
- चारों ओर
- लेख
- AS
- At
- ऑडियो
- प्रामाणिकता
- बुरा
- बाधाओं
- BE
- क्योंकि
- किया गया
- के बीच
- बड़ा
- टूटना
- तोड़कर
- भैंस
- लेकिन
- by
- उपमार्ग
- कैलिफ़ोर्निया
- कैमरा
- कर सकते हैं
- उम्मीदवार
- नही सकता
- कार्नेगी मेलॉन
- कारण
- चक
- गठबंधन
- आता है
- कंपनियों
- कंप्यूटर
- कम्प्यूटर साइंस
- सामग्री
- कोना
- देशों
- बनाना
- बनाया
- बनाना
- निर्माण
- फ़सल
- क्रिप्टोग्राफिक
- वर्तमान में
- साइबर अपराधी
- दल-ए
- deepfakes
- परिभाषित करने
- वर्णित
- विवरण
- पता चला
- खोज
- विकसित करना
- मुश्किल
- प्रत्यक्ष
- सीधे
- निदेशक
- दुष्प्रचार
- अंतर करना
- dont
- दवा
- सबसे आसान
- आसान
- प्रभाव
- चुनाव
- उभरा
- सक्षम
- पर्याप्त
- युग
- विशेष रूप से
- कार्यकारी
- कार्यकारी निदेशक
- विशेषज्ञ
- विशेषज्ञों
- समझाया
- आंख
- उल्लू बनाना
- फर्जी खबर
- विशेषताएं
- खोज
- निष्कर्ष
- फर्मों
- प्रथम
- के लिए
- रूपों
- मंच
- आगे
- उत्पादक
- जनरेटिव एआई
- मिल
- दी
- देता है
- जा
- गूगल
- जमीन
- बढ़ रहा है
- विकास
- था
- कठिन
- नुकसान
- नफरत
- है
- होने
- he
- मदद करता है
- उसे
- उसके
- कैसे
- तथापि
- HTTPS
- मानव
- मानव अधिकार
- i
- मैं करता हूँ
- पहचान
- पहचानती
- if
- की छवि
- छवियों
- in
- व्यक्तियों
- में
- अदृश्य
- शामिल
- मुद्दा
- IT
- आईटी इस
- केवल
- कुंजी
- बच्चा
- जानना
- ज्ञान
- पिछली बार
- पिछले साल
- नेतृत्व
- नेता
- नेतृत्व
- विधान
- पसंद
- स्थान
- देख
- बनाया गया
- बहुमत
- दुर्भावनापूर्ण
- चालाकी से
- जोड़ - तोड़
- बहुत
- मेरीलैंड
- इसी बीच
- उपायों
- मीडिया
- मेलॉन
- मेटा
- मेटाडाटा
- तरीका
- कम से कम
- झूठी खबर
- आदर्श
- अधिकतर
- आवश्यकता
- समाचार
- गैर लाभ
- गैर लाभ संगठन
- अभी
- of
- ओलिंपिक
- on
- ONE
- OpenAI
- or
- संगठन
- अन्य
- आउट
- outputs के
- शांति
- आतंक
- काग़ज़
- पीडीएफ
- स्टाफ़
- लोगों की
- फ़ोटोरियलिस्टिक
- जगह
- प्लेटो
- प्लेटो डेटा इंटेलिजेंस
- प्लेटोडाटा
- प्ले
- बिन्दु
- संभव
- प्रोफेसर
- कार्यक्रम
- को बढ़ावा देना
- सूत्र
- पढ़ना
- वास्तविक
- वास्तव में
- कमी
- विश्वसनीय
- हटाना
- कथित तौर पर
- शोधकर्ताओं
- छुटकारा
- अधिकार
- गुलाबी
- कहा
- नमक
- सैम
- वही
- सांता
- सांता बारबरा
- कहना
- कहावत
- विज्ञान
- सुरक्षा
- देखा
- सीनेट
- सितंबर
- कमियों
- दिखाता है
- हस्ताक्षर
- So
- सॉफ्टवेयर
- समाधान
- समाधान ढूंढे
- कुछ
- कोई
- कुछ
- स्रोत
- विशेष
- विशेष सॉफ्टवेयर
- विस्तार
- राज्य
- फिर भी
- अध्ययन
- ऐसा
- प्रणाली
- पकड़ना
- से निपटने
- लेना
- ले जा
- तकनीक
- तकनीकी कंपनियों
- टेक्नोलॉजीज
- टेक्नोलॉजी
- परीक्षण किया
- टेक्स्ट
- कि
- RSI
- स्रोत
- लेकिन हाल ही
- उन
- वहाँ।
- वे
- सोचना
- सोचते
- तीसरा
- इसका
- इस वर्ष
- यहाँ
- टिक टॉक
- पहर
- सेवा मेरे
- बोला था
- भी
- साधन
- ऊपर का
- पूरी तरह से
- ट्रैक
- ट्राइएज
- टाइप
- प्रकार
- विश्वविद्यालय
- यूनिवर्सिटी ऑफ कैलिफोर्निया
- यूनिवर्सिटी ऑफ मेरीलैंड
- us
- अमेरिकी सीनेट
- उपयोग
- प्रयुक्त
- उपयोगकर्ताओं
- का उपयोग
- सत्यापित
- वीडियो
- दिखाई
- था
- वाटर-मार्क
- वॉटरमार्किंग
- वॉटरमार्क
- मार्ग..
- तरीके
- क्या
- कब
- या
- कौन कौन से
- मर्जी
- साथ में
- वर्ष
- अभी तक
- इसलिए आप
- जेफिरनेट