इनसाइड द टेक - इमर्सिव वॉयस कम्युनिकेशन में सुरक्षा के लिए समाधान - रोब्लॉक्स ब्लॉग

प्लेटो द्वारा पुनर्प्रकाशित

अनुयायियों: 0

इनसाइड द टेक एक ब्लॉग श्रृंखला है जो हमारे साथ है टेक टॉक्स पॉडकास्ट. पॉडकास्ट के एपिसोड 20 में, द इवोल्यूशन ऑफ रोब्लॉक्स अवतार्स, रोबॉक्स के सीईओ डेविड बासज़ुकी ने इंजीनियरिंग के वरिष्ठ निदेशक किरण भट्ट, उत्पाद के वरिष्ठ निदेशक महेश रामसुब्रमण्यन और प्रमुख उत्पाद प्रबंधक एफी गोएनावान के साथ बात की। इमर्सिव कम्युनिकेशन का भविष्य अवतारों और तकनीकी चुनौतियों के माध्यम से हम इसे सशक्त बनाने के लिए समाधान कर रहे हैं। इनसाइड द टेक के इस संस्करण में, हमने उन तकनीकी चुनौतियों में से एक, इमर्सिव वॉयस कम्युनिकेशन में सुरक्षा, और टीम का काम सभी के लिए एक सुरक्षित और नागरिक डिजिटल वातावरण को बढ़ावा देने में कैसे मदद कर रहा है, के बारे में अधिक जानने के लिए वरिष्ठ इंजीनियरिंग प्रबंधक एंड्रयू पोर्टनर से बात की। हमारा मंच.

आपकी टीम किन सबसे बड़ी तकनीकी चुनौतियों का सामना कर रही है?

हम अपने उपयोगकर्ताओं के लिए एक सुरक्षित और सकारात्मक अनुभव बनाए रखने को प्राथमिकता देते हैं। सुरक्षा और सभ्यता ये बातें हमेशा हमारे दिमाग में सबसे ऊपर रहती हैं, लेकिन वास्तविक समय में इसे संभालना एक बड़ी तकनीकी चुनौती हो सकती है। जब भी कोई समस्या होती है, हम उसकी समीक्षा करने और वास्तविक समय में कार्रवाई करने में सक्षम होना चाहते हैं, लेकिन हमारे पैमाने को देखते हुए यह चुनौतीपूर्ण है। इस पैमाने को प्रभावी ढंग से संभालने के लिए, हमें स्वचालित सुरक्षा प्रणालियों का लाभ उठाने की आवश्यकता है।

एक और तकनीकी चुनौती जिस पर हम ध्यान केंद्रित कर रहे हैं वह है मॉडरेशन के लिए हमारे सुरक्षा उपायों की सटीकता। नीति उल्लंघनों को संबोधित करने और वास्तविक समय में सटीक प्रतिक्रिया प्रदान करने के लिए दो मॉडरेशन दृष्टिकोण हैं: प्रतिक्रियाशील और सक्रिय मॉडरेशन। प्रतिक्रियाशील मॉडरेशन के लिए, हम विभिन्न प्रकार के नीति उल्लंघनों की सटीक पहचान करने के लिए मशीन लर्निंग (एमएल) मॉडल विकसित कर रहे हैं, जो प्लेटफ़ॉर्म पर लोगों की रिपोर्ट का जवाब देकर काम करते हैं। सक्रिय रूप से, हम क्षमता का वास्तविक समय पर पता लगाने पर काम कर रहे हैं वह सामग्री जो हमारी नीतियों का उल्लंघन करती है, उपयोगकर्ताओं को उनके व्यवहार के बारे में शिक्षित करना। बोले गए शब्द को समझना और ऑडियो गुणवत्ता में सुधार करना एक जटिल प्रक्रिया है। हम पहले से ही प्रगति देख रहे हैं, लेकिन हमारा अंतिम लक्ष्य एक अत्यधिक सटीक मॉडल बनाना है जो वास्तविक समय में नीति-उल्लंघन करने वाले व्यवहार का पता लगा सके।

इन तकनीकी चुनौतियों से निपटने के लिए हम किन नवीन दृष्टिकोणों और समाधानों का उपयोग कर रहे हैं?

हमने एक एंड-टू-एंड एमएल मॉडल विकसित किया है जो ऑडियो डेटा का विश्लेषण कर सकता है और नीति उल्लंघन के प्रकार (उदाहरण के लिए यह बदमाशी, अपवित्रता, आदि) के आधार पर आत्मविश्वास का स्तर प्रदान करता है। इस मॉडल ने कुछ रिपोर्टों को स्वचालित रूप से बंद करने की हमारी क्षमता में काफी सुधार किया है। हम तब कार्रवाई करते हैं जब हमारा मॉडल आश्वस्त होता है और यह सुनिश्चित कर सकता है कि उसका प्रदर्शन इंसानों से बेहतर है। लॉन्चिंग के कुछ ही महीनों के भीतर, हम इस मॉडल के साथ लगभग सभी अंग्रेजी ध्वनि दुरुपयोग रिपोर्टों को नियंत्रित करने में सक्षम थे। हमने इन मॉडलों को घर में ही विकसित किया है और यह कई ओपन सोर्स प्रौद्योगिकियों और इसके पीछे की तकनीक बनाने के हमारे अपने काम के बीच सहयोग का एक प्रमाण है।

वास्तविक समय में क्या उचित है यह निर्धारित करना काफी जटिल लगता है। वह कैसे काम करता है?

सिस्टम को प्रासंगिक रूप से जागरूक बनाने में बहुत विचार किया गया है। हम कार्रवाई करने से पहले समय के साथ पैटर्न भी देखते हैं ताकि हम सुनिश्चित हो सकें कि हमारे कार्य उचित हैं। हमारी नीतियां किसी व्यक्ति की उम्र, चाहे वह सार्वजनिक स्थान पर हो या निजी चैट, और कई अन्य कारकों के आधार पर बारीकियां होती हैं। हम वास्तविक समय में सभ्यता को बढ़ावा देने के नए तरीके तलाश रहे हैं और एमएल इसके केंद्र में है। हमने हाल ही में उपयोगकर्ताओं को हमारी नीतियों की याद दिलाने के लिए स्वचालित पुश नोटिफिकेशन (या "नज") लॉन्च किया है। हम किसी व्यक्ति के इरादों को बेहतर ढंग से समझने और व्यंग्य या चुटकुले जैसी चीजों को अलग करने के लिए आवाज के लहजे जैसे अन्य कारकों पर भी गौर कर रहे हैं। अंत में, हम एक बहुभाषी मॉडल भी बना रहे हैं क्योंकि कुछ लोग कई भाषाएँ बोलते हैं या वाक्य के बीच में भी भाषा बदल लेते हैं। इनमें से कुछ भी संभव होने के लिए, हमारे पास एक सटीक मॉडल होना चाहिए।

वर्तमान में, हम दुर्व्यवहार के सबसे प्रमुख रूपों, जैसे उत्पीड़न, भेदभाव और अपवित्रता को संबोधित करने पर ध्यान केंद्रित कर रहे हैं। ये दुरुपयोग की अधिकांश रिपोर्टें बनाते हैं। हमारा उद्देश्य इन क्षेत्रों में महत्वपूर्ण प्रभाव डालना है और नागरिक ऑनलाइन बातचीत को बढ़ावा देने और बनाए रखने के लिए उद्योग मानदंड निर्धारित करना है। हम वास्तविक समय में एमएल का उपयोग करने की क्षमता को लेकर उत्साहित हैं, क्योंकि यह हमें सभी के लिए एक सुरक्षित और नागरिक अनुभव को प्रभावी ढंग से बढ़ावा देने में सक्षम बनाता है।

Roblox में हम जिन चुनौतियों का समाधान कर रहे हैं वे किस प्रकार अद्वितीय हैं? हम पहले क्या हल करने की स्थिति में हैं?

हमारे स्थानिक आवाज के साथ चैट करें प्रौद्योगिकी वास्तविक दुनिया के संचार की नकल करते हुए अधिक गहन अनुभव बनाती है। उदाहरण के लिए, यदि मैं किसी के बाईं ओर खड़ा हूं, तो वे मुझे अपने बाएं कान से सुनेंगे। हम वास्तविक दुनिया में संचार कैसे काम करता है इसका एक एनालॉग बना रहे हैं और यह एक चुनौती है जिसे हम पहले हल करने की स्थिति में हैं।

एक गेमर के रूप में, मैंने ऑनलाइन गेमिंग में बहुत अधिक उत्पीड़न और बदमाशी देखी है। यह एक ऐसी समस्या है जो अक्सर उपयोगकर्ता की गुमनामी और परिणामों की कमी के कारण अनियंत्रित हो जाती है। हालाँकि, जिन तकनीकी चुनौतियों से हम निपट रहे हैं, वे कुछ क्षेत्रों में अन्य प्लेटफार्मों के सामने आने वाली चुनौतियों से अद्वितीय हैं। कुछ गेमिंग प्लेटफ़ॉर्म पर, बातचीत टीम के साथियों तक ही सीमित होती है। Roblox ऐसे सामाजिक परिवेश में घूमने-फिरने के कई तरीके प्रदान करता है जो वास्तविक जीवन की अधिक बारीकी से नकल करता है। एमएल और वास्तविक समय सिग्नल प्रोसेसिंग में प्रगति के साथ, हम अपमानजनक व्यवहार का प्रभावी ढंग से पता लगाने और उसका समाधान करने में सक्षम हैं, जिसका अर्थ है कि हम न केवल अधिक यथार्थवादी वातावरण हैं, बल्कि एक ऐसा वातावरण भी हैं जहां हर कोई दूसरों के साथ बातचीत करने और जुड़ने में सुरक्षित महसूस करता है। हमारी प्रौद्योगिकी, हमारे व्यापक मंच और हमारी नीतियों के बारे में उपयोगकर्ताओं को शिक्षित करने की हमारी प्रतिबद्धता का संयोजन हमें इन चुनौतियों से निपटने की स्थिति में रखता है।

इस तकनीकी कार्य को करने से आपने कौन सी प्रमुख बातें सीखी हैं?

मुझे ऐसा लगता है जैसे मैंने काफी कुछ सीखा है। मैं एमएल इंजीनियर नहीं हूं. मैंने गेमिंग में ज्यादातर फ्रंट एंड पर काम किया है, इसलिए ये मॉडल कैसे काम करते हैं, इसके बारे में गहराई से जानने में सक्षम होना बहुत बड़ी बात है। मेरी आशा है कि सभ्यता को बढ़ावा देने के लिए हम जो कदम उठा रहे हैं, वह ऑनलाइन समुदाय में सहानुभूति के उस स्तर तक पहुंचेगा, जिसकी कमी रही है।

एक आखिरी सीख यह है कि सब कुछ आपके द्वारा डाले गए प्रशिक्षण डेटा पर निर्भर करता है। और डेटा सटीक होने के लिए, मनुष्यों को कुछ नीति-उल्लंघन व्यवहारों को वर्गीकृत करने के लिए उपयोग किए जा रहे लेबल पर सहमत होना होगा। गुणवत्तापूर्ण डेटा पर प्रशिक्षण देना वास्तव में महत्वपूर्ण है जिस पर हर कोई सहमत हो सके। इसे हल करना सचमुच एक कठिन समस्या है। आप उन क्षेत्रों को देखना शुरू करते हैं जहां एमएल हर चीज से बहुत आगे है, और फिर अन्य क्षेत्र जहां यह अभी भी शुरुआती चरण में है। अभी भी ऐसे कई क्षेत्र हैं जहां एमएल अभी भी बढ़ रहा है, इसलिए इसकी वर्तमान सीमाओं का ज्ञान होना महत्वपूर्ण है।

आपकी टीम किस Roblox मान के साथ सबसे अधिक मेल खाती है?

इस पूरी प्रक्रिया में समुदाय का सम्मान करना हमारा मार्गदर्शक मूल्य है। सबसे पहले, हमें अपने मंच पर सभ्यता में सुधार लाने और नीतिगत उल्लंघनों को कम करने पर ध्यान केंद्रित करने की आवश्यकता है। इसका समग्र उपयोगकर्ता अनुभव पर महत्वपूर्ण प्रभाव पड़ता है। दूसरा, हमें सावधानीपूर्वक विचार करना चाहिए कि हम इन नई सुविधाओं को कैसे लागू करते हैं। हमें मॉडल में गलत सकारात्मकताओं (उदाहरण के लिए गलत तरीके से किसी चीज को दुरुपयोग के रूप में चिह्नित करना) से सावधान रहना होगा और उपयोगकर्ताओं को गलत तरीके से दंडित करने से बचना होगा। हमारे मॉडलों के प्रदर्शन और उपयोगकर्ता सहभागिता पर उनके प्रभाव की निगरानी करना महत्वपूर्ण है।

रोबॉक्स और आपकी टीम किस दिशा में जा रही है, इस बारे में आपको सबसे अधिक उत्साहित करने वाली बात क्या है?

हमने सार्वजनिक ध्वनि संचार को बेहतर बनाने में महत्वपूर्ण प्रगति की है, लेकिन अभी भी बहुत कुछ किया जाना बाकी है। निजी संचार तलाशने के लिए एक रोमांचक क्षेत्र है। मुझे लगता है कि निजी संचार को बेहतर बनाने, उपयोगकर्ताओं को अपने करीबी दोस्तों के सामने खुद को अभिव्यक्त करने, अनुभवों के दौरान या अपने दोस्तों के साथ बातचीत करते समय वॉयस कॉल करने की अनुमति देने का एक बड़ा अवसर है। मुझे लगता है कि उपयोगकर्ताओं को स्वयं-संगठित होने, समुदायों में शामिल होने, सामग्री साझा करने और विचार साझा करने में सक्षम बनाने के लिए बेहतर टूल के साथ इन समुदायों को बढ़ावा देने का भी अवसर है।

जैसे-जैसे हम आगे बढ़ रहे हैं, हम इन विस्तारित समुदायों का समर्थन करने के लिए अपनी चैट तकनीक को कैसे बढ़ा सकते हैं? हम जो कुछ भी कर सकते हैं उसके बारे में हम केवल सतही तौर पर कोशिश कर रहे हैं, और मुझे लगता है कि उद्योग भर में ऑनलाइन संचार और सहयोग की सभ्यता में सुधार करने का एक मौका है जो पहले नहीं किया गया है। सही तकनीक और एमएल क्षमताओं के साथ, हम नागरिक ऑनलाइन संचार के भविष्य को आकार देने के लिए एक अद्वितीय स्थिति में हैं।