ٹیک کے اندر - عمیق وائس کمیونیکیشن میں حفاظت کے لیے حل کرنا - روبلوکس بلاگ

افلاطون کے ذریعہ دوبارہ شائع کیا گیا۔

فالونگ: 0

ٹیک کے اندر ایک بلاگ سیریز ہے جو ہمارے ساتھ ہے۔ ٹیک ٹاکس پوڈ کاسٹ. پوڈ کاسٹ کے ایپی سوڈ 20 میں، روبلوکس اوتار کا ارتقاء، روبلوکس کے سی ای او ڈیوڈ باسزکی نے انجینئرنگ کے سینئر ڈائریکٹر کرن بھٹ، پروڈکٹ کے سینئر ڈائریکٹر مہیش راما سبرامنین، اور پرنسپل پروڈکٹ مینیجر ایفی گویناوان سے بات کی۔ عمیق مواصلات کا مستقبل اوتاروں اور تکنیکی چیلنجوں کے ذریعے جو ہم اسے طاقت دینے کے لیے حل کر رہے ہیں۔ Inside the Tech کے اس ایڈیشن میں، ہم نے سینئر انجینئرنگ مینیجر اینڈریو پورٹنر سے بات کی تاکہ ان میں سے ایک تکنیکی چیلنج، عمیق صوتی مواصلات میں حفاظت، اور کس طرح ٹیم کا کام سب کے لیے ایک محفوظ اور سول ڈیجیٹل ماحول کو فروغ دینے میں مدد کر رہا ہے۔ ہمارے پلیٹ فارم.

آپ کی ٹیم کون سے بڑے تکنیکی چیلنجز کا سامنا کر رہی ہے؟

ہم اپنے صارفین کے لیے محفوظ اور مثبت تجربہ برقرار رکھنے کو ترجیح دیتے ہیں۔ حفاظت اور تہذیب ہمارے لیے ہمیشہ سب سے اوپر ہوتے ہیں، لیکن اسے حقیقی وقت میں سنبھالنا ایک بڑا تکنیکی چیلنج ہو سکتا ہے۔ جب بھی کوئی مسئلہ ہوتا ہے، ہم اس کا جائزہ لینے اور حقیقی وقت میں کارروائی کرنے کے قابل ہونا چاہتے ہیں، لیکن ہمارے پیمانے کے پیش نظر یہ چیلنجنگ ہے۔ اس پیمانے کو مؤثر طریقے سے سنبھالنے کے لیے، ہمیں خودکار حفاظتی نظام کا فائدہ اٹھانے کی ضرورت ہے۔

ایک اور تکنیکی چیلنج جس پر ہماری توجہ مرکوز ہے وہ ہے اعتدال کے لیے ہمارے حفاظتی اقدامات کی درستگی۔ پالیسی کی خلاف ورزیوں کو حل کرنے اور حقیقی وقت میں درست تاثرات فراہم کرنے کے لیے دو اعتدال پسند طریقے ہیں: رد عمل اور فعال اعتدال۔ رد عمل کی اعتدال کے لیے، ہم مختلف قسم کی پالیسی کی خلاف ورزیوں کی درست طریقے سے شناخت کرنے کے لیے مشین لرننگ (ML) ماڈلز تیار کر رہے ہیں، جو پلیٹ فارم پر موجود لوگوں کی رپورٹس کا جواب دے کر کام کرتے ہیں۔ فعال طور پر، ہم ممکنہ طور پر حقیقی وقت کا پتہ لگانے پر کام کر رہے ہیں۔ مواد جو ہماری پالیسیوں کی خلاف ورزی کرتا ہے۔، صارفین کو ان کے رویے کے بارے میں تعلیم دینا۔ بولے گئے لفظ کو سمجھنا اور آڈیو کوالٹی کو بہتر بنانا ایک پیچیدہ عمل ہے۔ ہم پہلے ہی پیش رفت دیکھ رہے ہیں، لیکن ہمارا حتمی مقصد ایک انتہائی درست ماڈل ہے جو حقیقی وقت میں پالیسی کی خلاف ورزی کرنے والے رویے کا پتہ لگا سکے۔

ان تکنیکی چیلنجوں سے نمٹنے کے لیے ہم کون سے اختراعی طریقے اور حل استعمال کر رہے ہیں؟

ہم نے ایک اینڈ ٹو اینڈ اینڈ ایم ایل ماڈل تیار کیا ہے جو آڈیو ڈیٹا کا تجزیہ کر سکتا ہے اور پالیسی کی خلاف ورزیوں کی قسم کی بنیاد پر اعتماد کی سطح فراہم کرتا ہے (مثلاً یہ غنڈہ گردی، بے حرمتی وغیرہ کا کتنا امکان ہے)۔ اس ماڈل نے کچھ رپورٹس کو خودکار طور پر بند کرنے کی ہماری صلاحیت کو نمایاں طور پر بہتر کیا ہے۔ ہم اس وقت کارروائی کرتے ہیں جب ہمارا ماڈل پر اعتماد ہو اور اس بات کا یقین ہو کہ یہ انسانوں سے بہتر کارکردگی کا مظاہرہ کرتا ہے۔ لانچ کرنے کے صرف چند مہینوں کے اندر، ہم اس ماڈل کے ساتھ تقریباً تمام انگریزی آواز کے غلط استعمال کی رپورٹس کو معتدل کرنے میں کامیاب ہو گئے۔ ہم نے ان ماڈلز کو اندرون ملک تیار کیا ہے اور یہ بہت ساری اوپن سورس ٹیکنالوجیز اور اس کے پیچھے ٹیک بنانے کے لیے ہمارے اپنے کام کے درمیان تعاون کا ثبوت ہے۔

اصل وقت میں کیا مناسب ہے اس کا تعین کرنا کافی پیچیدہ لگتا ہے۔ یہ کیسے کام کرتا ہے؟

سسٹم کو سیاق و سباق سے آگاہ کرنے کے لیے بہت سوچ بچار کی ضرورت ہے۔ ہم کارروائی کرنے سے پہلے وقت کے ساتھ نمونوں کو بھی دیکھتے ہیں تاکہ ہم اس بات کا یقین کر سکیں کہ ہمارے اعمال جائز ہیں۔ ہماری پالیسیاں کسی شخص کی عمر، چاہے وہ عوامی جگہ پر ہوں یا نجی چیٹ، اور بہت سے دوسرے عوامل پر منحصر ہوتی ہیں۔ ہم حقیقی وقت میں تہذیب کو فروغ دینے کے نئے طریقے تلاش کر رہے ہیں اور ML اس کا مرکز ہے۔ صارفین کو اپنی پالیسیوں کی یاد دلانے کے لیے ہم نے حال ہی میں خودکار پش اطلاعات (یا "نجز") شروع کی ہیں۔ ہم کسی شخص کے ارادوں کو بہتر طور پر سمجھنے اور طنز یا لطیفے جیسی چیزوں میں فرق کرنے کے لیے آواز کے لہجے جیسے دیگر عوامل پر بھی غور کر رہے ہیں۔ آخر میں، ہم ایک کثیر لسانی ماڈل بھی بنا رہے ہیں کیونکہ کچھ لوگ ایک سے زیادہ زبانیں بولتے ہیں یا زبانوں کو درمیانی جملے میں بھی تبدیل کر دیتے ہیں۔ اس میں سے کوئی بھی ممکن ہونے کے لیے، ہمارے پاس ایک درست ماڈل ہونا چاہیے۔

فی الحال، ہم بدسلوکی کی سب سے نمایاں شکلوں، جیسے کہ ہراساں کرنا، امتیازی سلوک اور بے حرمتی سے نمٹنے پر توجہ مرکوز کر رہے ہیں۔ یہ بدسلوکی کی زیادہ تر رپورٹس بناتے ہیں۔ ہمارا مقصد ان شعبوں میں نمایاں اثر ڈالنا ہے اور اس کے لیے صنعت کے اصول طے کرنا ہے کہ سول آن لائن گفتگو کو فروغ دینا اور برقرار رکھنا کیسا لگتا ہے۔ ہم حقیقی وقت میں ML استعمال کرنے کی صلاحیت کے بارے میں پرجوش ہیں، کیونکہ یہ ہمیں ہر ایک کے لیے ایک محفوظ اور شہری تجربہ کو مؤثر طریقے سے فروغ دینے کے قابل بناتا ہے۔

روبلوکس میں ہم جن چیلنجز کو حل کر رہے ہیں وہ کیسے منفرد ہیں؟ ہم سب سے پہلے کیا حل کرنے کی پوزیشن میں ہیں؟

ہماری مقامی آواز کے ساتھ چیٹ کریں۔ ٹکنالوجی حقیقی دنیا کے مواصلات کی نقل کرتے ہوئے ایک زیادہ عمیق تجربہ تخلیق کرتی ہے۔ مثال کے طور پر، اگر میں کسی کے بائیں طرف کھڑا ہوں، تو وہ مجھے اپنے بائیں کان میں سنیں گے۔ ہم ایک اینالاگ بنا رہے ہیں کہ حقیقی دنیا میں مواصلت کیسے کام کرتی ہے اور یہ ایک چیلنج ہے جسے ہم پہلے حل کرنے کی پوزیشن میں ہیں۔

خود ایک گیمر کے طور پر، میں نے آن لائن گیمنگ میں بہت زیادہ ایذا رسانی اور غنڈہ گردی کا مشاہدہ کیا ہے۔ یہ ایک ایسا مسئلہ ہے جو اکثر صارف کی گمنامی اور نتائج کی کمی کی وجہ سے چیک نہیں کیا جاتا ہے۔ تاہم، ہم جن تکنیکی چیلنجوں سے نمٹ رہے ہیں وہ ان سے منفرد ہیں جو دوسرے پلیٹ فارمز کو چند شعبوں میں درپیش ہیں۔ کچھ گیمنگ پلیٹ فارمز پر، بات چیت ٹیم کے ساتھیوں تک محدود ہوتی ہے۔ Roblox سماجی ماحول میں hangout کرنے کے مختلف طریقے پیش کرتا ہے جو حقیقی زندگی کی زیادہ قریب سے نقل کرتا ہے۔ ML اور ریئل ٹائم سگنل پروسیسنگ میں پیشرفت کے ساتھ، ہم بدسلوکی کے رویے کا مؤثر طریقے سے پتہ لگانے اور اس کا ازالہ کرنے کے قابل ہیں جس کا مطلب ہے کہ ہم نہ صرف ایک زیادہ حقیقت پسندانہ ماحول ہیں، بلکہ ایک ایسا ماحول بھی ہے جہاں ہر کوئی دوسروں کے ساتھ بات چیت اور جڑنے میں محفوظ محسوس کرتا ہے۔ ہماری ٹیکنالوجی، ہمارے عمیق پلیٹ فارم، اور ہماری پالیسیوں کے بارے میں صارفین کو آگاہ کرنے کے لیے ہماری وابستگی کا امتزاج ہمیں ان چیلنجوں سے نمٹنے کی پوزیشن میں لاتا ہے۔

کچھ اہم چیزیں کیا ہیں جو آپ نے اس تکنیکی کام سے سیکھی ہیں؟

مجھے ایسا لگتا ہے جیسے میں نے کافی سودا سیکھا ہے۔ میں ایم ایل انجینئر نہیں ہوں۔ میں نے گیمنگ میں زیادہ تر فرنٹ اینڈ پر کام کیا ہے، اس لیے صرف اس بات سے زیادہ گہرائی میں جانے کے قابل ہوں کہ یہ ماڈل کیسے کام کرتے ہیں۔ میری امید یہ ہے کہ ہم تہذیب کو فروغ دینے کے لیے جو اقدامات کر رہے ہیں اس کا ترجمہ آن لائن کمیونٹی میں ہمدردی کی سطح تک پہنچ جائے گا جس کی کمی ہے۔

ایک آخری سیکھنا یہ ہے کہ ہر چیز کا انحصار اس تربیتی ڈیٹا پر ہوتا ہے جو آپ ڈالتے ہیں۔ اور ڈیٹا کے درست ہونے کے لیے، انسانوں کو ان لیبلز پر متفق ہونا پڑتا ہے جو پالیسی کی خلاف ورزی کرنے والے بعض رویوں کی درجہ بندی کرنے کے لیے استعمال کیے جاتے ہیں۔ معیاری ڈیٹا پر تربیت دینا واقعی اہم ہے جس پر ہر کوئی متفق ہو سکتا ہے۔ یہ حل کرنے کے لئے واقعی ایک مشکل مسئلہ ہے. آپ ان علاقوں کو دیکھنا شروع کریں گے جہاں ML ہر چیز سے آگے ہے، اور پھر دوسرے علاقے جہاں یہ ابھی ابتدائی مراحل میں ہے۔ اب بھی بہت سے ایسے علاقے ہیں جہاں ایم ایل اب بھی بڑھ رہا ہے، اس لیے اس کی موجودہ حدود کا ادراک ہونا اہم ہے۔

آپ کی ٹیم کس روبلوکس قدر کے ساتھ سب سے زیادہ موافق ہے؟

کمیونٹی کا احترام اس سارے عمل میں ہماری رہنمائی کی قدر ہے۔ سب سے پہلے، ہمیں اپنے پلیٹ فارم پر تہذیب کو بہتر بنانے اور پالیسی کی خلاف ورزیوں کو کم کرنے پر توجہ مرکوز کرنے کی ضرورت ہے۔ اس کا مجموعی صارف کے تجربے پر نمایاں اثر پڑتا ہے۔ دوسرا، ہمیں احتیاط سے غور کرنا چاہیے کہ ہم ان نئی خصوصیات کو کیسے تیار کرتے ہیں۔ ہمیں ماڈل میں جھوٹے مثبتات (مثلاً کسی چیز کو غلط استعمال کے طور پر نشان زد کرنا) کے بارے میں ذہن نشین کرنے کی ضرورت ہے اور صارفین کو غلط طریقے سے سزا دینے سے گریز کرنا چاہیے۔ ہمارے ماڈلز کی کارکردگی اور صارف کی مصروفیت پر ان کے اثرات کی نگرانی بہت ضروری ہے۔

روبلوکس اور آپ کی ٹیم کہاں جا رہی ہے اس کے بارے میں آپ کو سب سے زیادہ پرجوش کیا ہے؟

ہم نے عوامی آواز کے مواصلات کو بہتر بنانے میں اہم پیش رفت کی ہے، لیکن ابھی بہت کچھ کرنا باقی ہے۔ نجی مواصلات دریافت کرنے کا ایک دلچسپ علاقہ ہے۔ میرے خیال میں نجی کمیونیکیشن کو بہتر بنانے کا ایک بہت بڑا موقع ہے، صارفین کو اپنے آپ کو قریبی دوستوں سے اظہار کرنے، تجربات کے دوران یا کسی تجربے کے دوران اپنے دوستوں کے ساتھ بات چیت کے دوران وائس کال کرنے کی اجازت دینے کا۔ میرے خیال میں ان کمیونٹیز کو بہتر ٹولز کے ساتھ فروغ دینے کا ایک موقع بھی ہے تاکہ صارفین کو خود کو منظم کرنے، کمیونٹیز میں شامل ہونے، مواد کا اشتراک کرنے اور خیالات کا اشتراک کرنے کے قابل بنایا جا سکے۔

جیسے جیسے ہم ترقی کرتے جا رہے ہیں، ہم ان پھیلتی ہوئی کمیونٹیز کو سپورٹ کرنے کے لیے اپنی چیٹ ٹیکنالوجی کو کیسے پیمانہ بنا سکتے ہیں؟ ہم جو کچھ کر سکتے ہیں اس پر ہم صرف سطح کو کھرچ رہے ہیں، اور میرے خیال میں پوری صنعت میں آن لائن مواصلات اور تعاون کی تہذیب کو اس طرح بہتر بنانے کا ایک موقع ہے جو پہلے نہیں کیا گیا تھا۔ صحیح ٹیکنالوجی اور ML صلاحیتوں کے ساتھ، ہم سول آن لائن کمیونیکیشن کے مستقبل کو تشکیل دینے کے لیے ایک منفرد پوزیشن میں ہیں۔