داخل التكنولوجيا - حل المشكلات المتعلقة بالسلامة في الاتصالات الصوتية الغامرة - مدونة Roblox

أعاد نشره أفلاطون

المتابعون: 0

Inside the Tech عبارة عن سلسلة من المدونات المصاحبة لموقعنا بودكاست محادثات التكنولوجيا. في الحلقة 20 من البودكاست، تطور Roblox Avatars، تحدث ديفيد باسزوكي، الرئيس التنفيذي لشركة Roblox، مع المدير الأول للهندسة كيران بهات، والمدير الأول للمنتج ماهيش راماسوبرامانيان، ومدير المنتج الرئيسي إيفي جويناوان، حول مستقبل الاتصالات غامرة من خلال الصور الرمزية والتحديات التقنية التي نحلها لتشغيلها. في هذا الإصدار من Inside the Tech، تحدثنا مع مدير الهندسة الأول أندرو بورتنر لمعرفة المزيد حول أحد تلك التحديات التقنية، والسلامة في الاتصالات الصوتية الغامرة، وكيف يساعد عمل الفريق في تعزيز بيئة رقمية آمنة ومدنية للجميع. منصتنا.

ما هي أكبر التحديات التقنية التي يواجهها فريقك؟

نحن نعطي الأولوية للحفاظ على تجربة آمنة وإيجابية لمستخدمينا. السلامة والكياسة دائمًا ما تكون في قمة اهتماماتنا، ولكن التعامل معها في الوقت الفعلي يمكن أن يشكل تحديًا تقنيًا كبيرًا. عندما تكون هناك مشكلة، نريد أن نكون قادرين على مراجعتها واتخاذ الإجراءات اللازمة في الوقت الفعلي، ولكن هذا يمثل تحديًا نظرًا لحجمنا. ومن أجل التعامل مع هذا الحجم بفعالية، نحتاج إلى الاستفادة من أنظمة السلامة الآلية.

التحدي الفني الآخر الذي نركز عليه هو دقة تدابير السلامة لدينا للاعتدال. هناك طريقتان للإشراف لمعالجة انتهاكات السياسة وتقديم تعليقات دقيقة في الوقت الفعلي: الإشراف التفاعلي والاستباقي. بالنسبة للإشراف التفاعلي، نعمل على تطوير نماذج التعلم الآلي (ML) لتحديد الأنواع المختلفة من انتهاكات السياسة بدقة، والتي تعمل من خلال الاستجابة للبلاغات الواردة من الأشخاص على النظام الأساسي. بشكل استباقي، نحن نعمل على الكشف في الوقت الحقيقي عن الإمكانات المحتوى الذي ينتهك سياساتنا، تثقيف المستخدمين حول سلوكهم. يعد فهم الكلمة المنطوقة وتحسين جودة الصوت عملية معقدة. إننا نشهد بالفعل تقدمًا، ولكن هدفنا النهائي هو أن يكون لدينا نموذج دقيق للغاية يمكنه اكتشاف السلوك المخالف للسياسة في الوقت الفعلي.

ما هي بعض الأساليب والحلول المبتكرة التي نستخدمها لمواجهة هذه التحديات التقنية؟

لقد قمنا بتطوير نموذج تعلم الآلة الشامل الذي يمكنه تحليل البيانات الصوتية وتوفير مستوى الثقة استنادًا إلى نوع انتهاكات السياسة (على سبيل المثال، ما مدى احتمالية حدوث هذا التنمر أو الألفاظ النابية وما إلى ذلك). لقد أدى هذا النموذج إلى تحسين قدرتنا بشكل كبير على إغلاق تقارير معينة تلقائيًا. نحن نتخذ إجراءً عندما يكون نموذجنا واثقًا ويمكننا التأكد من أنه يتفوق على البشر. وفي غضون بضعة أشهر فقط بعد الإطلاق، تمكنا من الإشراف على جميع تقارير إساءة استخدام الصوت باللغة الإنجليزية تقريبًا باستخدام هذا النموذج. لقد قمنا بتطوير هذه النماذج داخليًا وهي شهادة على التعاون بين الكثير من التقنيات مفتوحة المصدر وعملنا لإنشاء التكنولوجيا التي تقف وراءها.

يبدو تحديد ما هو مناسب في الوقت الفعلي أمرًا معقدًا للغاية. كيف يعمل هذا؟

هناك الكثير من التفكير لجعل النظام واعيًا بالسياق. نحن أيضًا ننظر إلى الأنماط بمرور الوقت قبل أن نتخذ أي إجراء حتى نتمكن من التأكد من أن أفعالنا مبررة. تختلف سياساتنا حسب عمر الشخص، سواء كان في مكان عام أو في محادثة خاصة، والعديد من العوامل الأخرى. نحن نستكشف طرقًا جديدة لتعزيز الكياسة في الوقت الفعلي، وتعلم الآلة هو جوهرها. لقد أطلقنا مؤخرًا إشعارات تلقائية (أو "دفعات") لتذكير المستخدمين بسياساتنا. نحن نبحث أيضًا في عوامل أخرى مثل نبرة الصوت لفهم نوايا الشخص بشكل أفضل وتمييز أشياء مثل السخرية أو النكات. وأخيرًا، نقوم أيضًا ببناء نموذج متعدد اللغات نظرًا لأن بعض الأشخاص يتحدثون عدة لغات أو حتى يبدلون اللغات في منتصف الجملة. لكي يكون أي من هذا ممكنًا، يجب أن يكون لدينا نموذج دقيق.

حاليًا، نركز على معالجة أبرز أشكال الإساءة، مثل التحرش والتمييز والألفاظ النابية. تشكل هذه غالبية تقارير إساءة الاستخدام. هدفنا هو إحداث تأثير كبير في هذه المجالات ووضع معايير الصناعة لما يبدو عليه الترويج للمحادثة المدنية عبر الإنترنت والحفاظ عليها. نحن متحمسون بشأن إمكانية استخدام التعلم الآلي في الوقت الفعلي، لأنه يمكننا من تعزيز تجربة آمنة ومدنية للجميع بشكل فعال.

كيف تكون التحديات التي نحلها في Roblox فريدة من نوعها؟ ما الذي نحن في وضع يسمح لنا بحله أولاً؟

الأهداف و الدردشة مع الصوت المكاني تخلق التكنولوجيا تجربة أكثر غامرة، وتحاكي التواصل في العالم الحقيقي. على سبيل المثال، إذا كنت أقف على يسار شخص ما، فسوف يسمعني في أذنه اليسرى. نحن نقوم بإنشاء نموذج مماثل لكيفية عمل الاتصالات في العالم الحقيقي وهذا هو التحدي الذي يمكننا حله أولاً.

باعتباري لاعبًا، فقد شهدت الكثير من المضايقات والتسلط في الألعاب عبر الإنترنت. إنها مشكلة لا يتم حلها غالبًا بسبب عدم الكشف عن هوية المستخدم وعدم وجود عواقب. ومع ذلك، فإن التحديات التقنية التي نتعامل معها حول هذا الأمر فريدة من نوعها مقارنة بما تواجهه المنصات الأخرى في عدة مجالات. في بعض منصات الألعاب، تقتصر التفاعلات على أعضاء الفريق. يقدم Roblox مجموعة متنوعة من الطرق للاستراحة في بيئة اجتماعية تحاكي الحياة الواقعية بشكل أوثق. بفضل التقدم في تعلم الآلة ومعالجة الإشارات في الوقت الفعلي، أصبحنا قادرين على اكتشاف السلوك المسيء ومعالجته بشكل فعال مما يعني أننا لسنا بيئة أكثر واقعية فحسب، بل أيضًا بيئة يشعر فيها الجميع بالأمان في التفاعل والتواصل مع الآخرين. إن الجمع بين تقنيتنا ومنصتنا الشاملة والتزامنا بتثقيف المستخدمين حول سياساتنا يضعنا في وضع يسمح لنا بمعالجة هذه التحديات بشكل مباشر.

ما هي بعض الأشياء الأساسية التي تعلمتها من القيام بهذا العمل الفني؟

أشعر وكأنني تعلمت الكثير. أنا لست مهندس ML. لقد عملت في الغالب على الواجهة الأمامية في الألعاب، لذا فإن مجرد قدرتي على التعمق أكثر مما لدي حول كيفية عمل هذه النماذج كان أمرًا ضخمًا. آمل أن تترجم الإجراءات التي نتخذها لتعزيز الكياسة إلى مستوى من التعاطف كان مفقودًا في مجتمع الإنترنت.

تعلم أخير هو أن كل شيء يعتمد على بيانات التدريب التي تدخلها. ولكي تكون البيانات دقيقة، يجب أن يتفق البشر على التسميات المستخدمة لتصنيف بعض السلوكيات المخالفة للسياسة. من المهم حقًا التدريب على البيانات عالية الجودة التي يمكن أن يتفق عليها الجميع. إنها مشكلة صعبة حقا لحلها. تبدأ في رؤية المجالات التي يتفوق فيها تعلم الآلة على كل شيء آخر، ثم المجالات الأخرى التي لا يزال فيها التعلم الآلي في المراحل المبكرة. لا تزال هناك العديد من المجالات التي لا تزال تعلم الآلة تنمو فيها، لذا فإن إدراك حدودها الحالية هو أمر أساسي.

ما هي قيمة Roblox التي يتوافق معها فريقك أكثر؟

احترام المجتمع هو القيمة التوجيهية لدينا طوال هذه العملية. أولاً، نحتاج إلى التركيز على تحسين الكياسة وتقليل انتهاكات السياسة على منصتنا. وهذا له تأثير كبير على تجربة المستخدم الشاملة. ثانيًا، يجب علينا أن نفكر بعناية في كيفية طرح هذه الميزات الجديدة. نحن بحاجة إلى أن نضع في اعتبارنا الإيجابيات الكاذبة (على سبيل المثال وضع علامة غير صحيحة على شيء ما على أنه إساءة) في النموذج وتجنب معاقبة المستخدمين بشكل غير صحيح. تعد مراقبة أداء نماذجنا وتأثيرها على مشاركة المستخدم أمرًا بالغ الأهمية.

ما الذي يثير اهتمامك أكثر بشأن المكان الذي يتجه إليه Roblox وفريقك؟

لقد أحرزنا تقدما كبيرا في تحسين الاتصالات الصوتية العامة، ولكن لا يزال هناك الكثير الذي يتعين علينا القيام به. تعد الاتصالات الخاصة مجالًا مثيرًا للاستكشاف. أعتقد أن هناك فرصة كبيرة لتحسين الاتصالات الخاصة، للسماح للمستخدمين بالتعبير عن أنفسهم لأصدقائهم المقربين، وإجراء مكالمة صوتية عبر التجارب أو أثناء تجربة أثناء تفاعلهم مع أصدقائهم. أعتقد أن هناك أيضًا فرصة لتعزيز هذه المجتمعات بأدوات أفضل لتمكين المستخدمين من التنظيم الذاتي والانضمام إلى المجتمعات ومشاركة المحتوى ومشاركة الأفكار.

ومع استمرارنا في النمو، كيف يمكننا توسيع نطاق تكنولوجيا الدردشة لدينا لدعم هذه المجتمعات المتوسعة؟ نحن فقط نخدش السطح بشأن الكثير مما يمكننا القيام به، وأعتقد أن هناك فرصة لتحسين أسلوب التواصل والتعاون عبر الإنترنت عبر الصناعة بطريقة لم يتم القيام بها من قبل. بفضل التكنولوجيا المناسبة وإمكانيات التعلم الآلي، نحن في وضع فريد لتشكيل مستقبل الاتصالات المدنية عبر الإنترنت.