ट्रांसफोबिक चुटकुले बनाने के लिए ट्विच ने एआई-जनित सीनफेल्ड शो पर प्रतिबंध लगा दिया

वीडियो सेनफेल्ड स्पूफ नथिंग, फॉरएवर - जनरेटिव एआई का उपयोग करके विकसित एक सिटकॉम - को ट्विच पर अस्थायी रूप से प्रतिबंधित कर दिया गया है, क्योंकि एक पात्र ने गलती से ट्रांसफोबिक अपशब्दों को उगल दिया।

विचित्र शो सुर्खियों में बनाया सीनफेल्ड के कभी न खत्म होने वाले एपिसोड के दृश्यों और स्क्रिप्ट को सुधारने के लिए एआई का उपयोग करने के लिए पिछले हफ्ते। कॉमेडी इमिटेटिंग आर्ट में, सिटकॉम 30 रॉक भविष्यवाणी कुछ इस तरह 15 साल पहले।

प्रतिष्ठित कॉमेडी श्रृंखला के पात्रों जैरी, जॉर्ज, ऐलेन और क्रेमर के बाद तैयार किए गए पात्र, OpenAI के GPT-3 भाषा मॉडल का उपयोग करके पूरी तरह से बनाए गए संवाद बोलते हैं। टेक्स्ट-टू-स्पीच एल्गोरिदम का उपयोग करके टेक्स्ट को ऑडियो में अनुवादित किया जाता है और पृष्ठभूमि और दृश्य भी एआई-जेनरेट किए जाते हैं। कुछ नहीं, हमेशा के लिए ट्विच 24/7 पर स्ट्रीम किया गया और पिछले साल दिसंबर में प्रसारित होने के बाद से कई अनुयायियों को आकर्षित किया।

लेकिन चैनल शो की मेजबानी सोमवार को हटा दी गई थी उल्लंघन करने ट्विच की सामग्री नीतियां। मिसमैच मीडिया के सह-संस्थापक और नथिंग, फॉरएवर के पीछे के रचनाकारों में से एक स्काइलर हार्टले ने बताया रजिस्टर प्रतिबंध मुख्य चरित्र लैरी फीनबर्ग के कारण जारी किया गया था, जिसमें आपत्तिजनक टिप्पणी की गई थी कि ट्रांसजेंडर लोग "समाज के ताने-बाने को बर्बाद कर रहे हैं", ट्रांसजेंडर होना एक मानसिक बीमारी है, और यह कि "सभी उदारवादी गुप्त रूप से समलैंगिक हैं"।

आप नीचे खराब स्टैंड-अप दृश्य देख सकते हैं।

यूट्यूब वीडियो

हार्टल ने कहा कि शो की स्क्रिप्ट तब पटरी से उतर गई जब इसके निर्माता OpenAI के GPT-3 मॉडल डेविंसी मॉडल का उपयोग क्यूरी नामक कम शक्तिशाली और सस्ते संस्करण में करने लगे, और इसकी सामग्री को मॉडरेट करने के लिए सॉफ़्टवेयर सुविधाओं को लागू नहीं किया।

"हमने कल रात डेविंसी से अपने संबंध के साथ एक समस्या का अनुभव किया और क्यूरी मॉडल पर स्विच करना पड़ा, जबकि समस्या स्वयं हल हो गई। यह तब था जब अनुपयुक्त पाठ उत्पन्न हुआ था, और हमने इसे तुरंत बंद कर दिया। हमने इस मुद्दे की और जांच की और पाया कि हम OpenAI के कंटेंट मॉडरेशन टूल्स का सही तरीके से लाभ नहीं उठा रहे थे," उन्होंने हमें बताया।

हार्टले ने पुष्टि की कि प्रतिबंध अस्थायी है और 14 दिनों तक चलना चाहिए। मिसमैच मीडिया अब OpenAI के कंटेंट मॉडरेशन टूल्स को तैनात करने के लिए काम कर रहा है और मॉडल के आउटपुट को ट्रैक करने के लिए एक सेकेंडरी सिस्टम पर भी विचार कर रहा है। 

"हमने जो पाठ उत्पन्न किया वह एक गलती थी, हम बहुत शर्मिंदा हैं, और यह कि किसी भी तरह से बनाई गई जनरेटिव सामग्री हमारे कर्मचारियों के मूल्यों या विचारों को प्रतिबिंबित नहीं करती है। हमें इस बात का बहुत अफसोस है और उम्मीद है कि हम सभी उचित सुरक्षा उपायों के साथ जल्द ही प्रसारण पर वापस आएंगे।"

GPT-3 जैसे बड़े भाषा मॉडल इंटरनेट से स्क्रैप किए गए पाठ से प्रशिक्षित होते हैं और अनुचित, आपत्तिजनक भाषा उत्पन्न कर सकते हैं। सामग्री फ़िल्टर सबसे खराब टेक्स्ट को कम कर सकते हैं, लेकिन स्निपेट सुरक्षा उपायों के साथ भी चुपके से निकल जाएंगे। 

ट्विच के एक प्रवक्ता ने भेजा रजिस्टर घृणित आचरण से निपटने के लिए कंपनी के सामुदायिक दिशानिर्देश, और कहा:

"हम गोपनीयता कारणों से विशिष्ट उल्लंघनों पर टिप्पणी नहीं करते हैं, लेकिन जब हमारे पास सबूत होते हैं कि चैनल ने हमारे सामुदायिक दिशानिर्देशों या सेवा की शर्तों का उल्लंघन किया है तो हम उचित कार्रवाई करते हैं।" ®

• एसईओ संचालित सामग्री और पीआर वितरण। आज ही प्रवर्धित हो जाओ।
• प्लेटोब्लॉकचैन। Web3 मेटावर्स इंटेलिजेंस। ज्ञान प्रवर्धित। यहां पहुंचें।
• स्रोत: https://go.theregister.com/feed/www.theregister.com/2023/02/07/twitch_ai_seinfeld/