टेलर स्विफ्ट डीपफेक न्यूड्स ने खींचा अमेरिका, माइक्रोसॉफ्ट का ध्यान

प्लेटो द्वारा पुनर्प्रकाशित

अनुयायियों: 0

पॉप रॉयल्टी टेलर स्विफ्ट की नकली यौन रूप से स्पष्ट एआई-जनित वायरल छवियों ने घबराहट पैदा कर दी है, जिससे प्रशंसकों, माइक्रोसॉफ्ट के बॉस और यहां तक कि व्हाइट हाउस ने भी डीपफेक से निपटने के लिए तत्काल कार्रवाई की मांग की है।

एक्स-रेटेड छवियां, जिसके लिए रजिस्टर लिंक नहीं किया जाएगा, सप्ताहांत में ऑनलाइन प्रसारित किया गया और एक्स पर प्रकाशित किया गया, कम से कम दसियों लाख बार देखा गया। डीपफेक ने गैर-सहमति वाले स्पष्ट एआई डीपफेक के मुद्दे को स्विफ्टीज़ के रूप में केंद्र में ला दिया है - जिनमें से कई ने छवियों को उपयुक्त के रूप में चिह्नित किया है - यह जानकर स्पष्ट रूप से निराश थे कि ऐसी सामग्री को प्रतिबंधित करने वाला कोई संघीय कानून नहीं है।

हमारी आवाज़ें हमारा गुप्त हथियार हैं, और हमारे शब्द Fortnite में पावर-अप की तरह हैं

यह घटना बहुत समय बाद आई पूर्व चिंता कम प्रसिद्ध महिलाओं को उनकी सहमति के बिना चित्रित करने वाले स्पष्ट यौन डीपफेक के उत्पादन पर। अब जब मेगास्टार टेलर स्विफ्ट को इस दलदल में खींच लिया गया है, तो हर तरफ रेड अलर्ट है।

व्हाइट हाउस की प्रेस सचिव कैरिन जीन-पियरे ने घोषणा की कि नकली एनएसएफडब्ल्यू छवियों पर मुहर लगाने के लिए कांग्रेस को "विधायी कार्रवाई करनी चाहिए"। उन्होंने कहा, "हम आपके द्वारा अभी-अभी पोस्ट की गई तस्वीरों के प्रसार की रिपोर्ट से चिंतित हैं - अधिक सटीक होने के लिए झूठी तस्वीरें, और यह चिंताजनक है।" बोला था एबीसी न्यूज।

इस बीच, जीन-पियरे ने एक्स सहित सोशल मीडिया ऐप्स से छवियों को हटाने और उन्हें ऑनलाइन फैलने से रोकने का आग्रह किया।

उन्होंने कहा, "जबकि सोशल मीडिया कंपनियां सामग्री प्रबंधन के बारे में अपने स्वयं के स्वतंत्र निर्णय लेती हैं, हमारा मानना है कि गलत सूचना और गैर-सहमति, वास्तविक लोगों की अंतरंग छवियों के प्रसार को रोकने के लिए अपने स्वयं के नियमों को लागू करने में उनकी महत्वपूर्ण भूमिका है।"

ट्विटर, या एक्स, ने एक बिंदु पर नकली नग्नता के प्रवाह को रोकने के लिए टेलर स्विफ्ट की खोजों को पूरी तरह से अवरुद्ध कर दिया, जिससे नाकाबंदी हट गई कल रात. इसने एआई-जनित डीपफेक को चैट रूम और छवि बोर्डों पर प्रसारित होने से नहीं रोका है। माइक्रोसॉफ्ट के सीईओ सत्य नडेला - जिनके आईटी दिग्गज के टेक्स्ट-टू-इमेज टूल डिजाइनर हैं शायद रहा होगा फर्जी तस्वीरें बनाने के लिए इस्तेमाल किया गया - झूठी छवियों को "खतरनाक और भयानक" कहा गया।

"हमें कार्रवाई करनी होगी," नडेला बोला था एनबीसी न्यूज, डिजाइनर को इस प्रकार की सामग्री बनाने से रोकने के लिए लगाई जाने वाली रेलिंगों का जिक्र कर रहा है।

“मुझे लगता है कि जब ऑनलाइन दुनिया एक सुरक्षित दुनिया होगी तो हम सभी को फायदा होगा। और इसलिए मुझे नहीं लगता कि कोई भी ऐसी ऑनलाइन दुनिया चाहेगा जो सामग्री निर्माताओं और सामग्री उपभोक्ताओं दोनों के लिए पूरी तरह से सुरक्षित न हो। इसलिए, मुझे लगता है कि हमें इस पर तेजी से आगे बढ़ना चाहिए।”

इस महीने की शुरुआत में, अमेरिकी प्रतिनिधि सभा के सदस्य जो मोरेल (डी-एनवाई) और टॉम कीन (आर-एनजे) ने अंतरंग छवियों के डीपफेक की रोकथाम अधिनियम को फिर से पेश किया। बिल इसका उद्देश्य यौन रूप से स्पष्ट गैर-सहमति वाली एआई तस्वीरों के निर्माण और साझाकरण को अपराध घोषित करना है, जिसमें दस साल तक की जेल की सजा हो सकती है।

मोरेल ने न्यू जर्सी की किशोरी फ्रांसेस्का मणि और उसकी मां डोरोटा के साथ कानून पेश किया, जो स्पष्ट यौन डीपफेक छवियों के उपयोग को रोकने के लिए कोई समर्थन पाने में असमर्थ होने से निराश थीं।

“सिर्फ इसलिए कि मैं किशोर हूं इसका मतलब यह नहीं है कि मेरी आवाज़ शक्तिशाली नहीं है। चुप रहना? कोई विकल्प नहीं। हमें चुनौती देने के लिए, हमारे साथ होने वाले अन्यायों के खिलाफ बोलने के लिए आवाजें दी गई हैं। मेरे और मेरे सहपाठियों के साथ जो हुआ वह अच्छा नहीं था, और ऐसा कोई रास्ता नहीं है जिससे मैं कंधे उचकाकर इसे टाल दूं,'' तर्क दिया फ्रांसेस्का।

"मैं यहां खड़ा हूं और बदलाव के लिए चिल्ला रहा हूं, कानूनों के लिए लड़ रहा हूं ताकि किसी और को हारा हुआ और शक्तिहीन महसूस न करना पड़े जैसा मैंने 20 अक्टूबर को किया था। हमारी आवाजें हमारा गुप्त हथियार हैं, और हमारे शब्द शक्ति-अप की तरह हैं Fortnite. मैं और मेरी मां एक ऐसी दुनिया बनाने की वकालत कर रहे हैं जहां सुरक्षित रहना सिर्फ एक उम्मीद नहीं है; यह हर किसी के लिए एक वास्तविकता है।"

बिल 2023 में कांग्रेस में पेश किया गया था और न्यायपालिका पर हाउस कमेटी को भेजा गया था, हालांकि उस समय कोई कार्रवाई नहीं की गई थी। ®