Inside the Tech - פתרון לבטיחות בתקשורת קולית סוחפת - בלוג רובלוקס

Inside the Tech – פתרון לבטיחות בתקשורת קולית עמוסה – בלוג רובלוקס

חותמת זמן: 18 בינואר 2024 4:44
צומת המקור: 3070360

Inside the Tech היא סדרת בלוגים שמלווה את שלנו פודקאסט Tech Talks. בפרק 20 של הפודקאסט, The Evolution of Roblox Avatars, שוחח מנכ"ל Roblox, דיוויד באצוקי, עם המנהל הבכיר להנדסה קירן בהט, המנהל הבכיר של Product Mahesh Ramasubramanian, ומנהל המוצר הראשי אפי Goenawan, על עתיד של תקשורת סוחפת באמצעות אווטארים והאתגרים הטכניים שאנו פותרים כדי להפעיל אותו. במהדורה זו של Inside the Tech, שוחחנו עם מנהל ההנדסה הבכיר אנדרו פורטנר כדי ללמוד עוד על אחד מאותם אתגרים טכניים, בטיחות בתקשורת קולית סוחפת, וכיצד עבודת הצוות עוזרת לטפח סביבה דיגיטלית בטוחה ואזרחית לכולם. הפלטפורמה שלנו.

מהם האתגרים הטכניים הגדולים ביותר שהצוות שלך לוקח על עצמו?

אנו נותנים עדיפות לשמור על חוויה בטוחה וחיובית עבור המשתמשים שלנו. בטיחות ואדיבות הם תמיד בראש מעיינינו, אבל הטיפול בזה בזמן אמת יכול להיות אתגר טכני גדול. בכל פעם שיש בעיה, אנחנו רוצים להיות מסוגלים לסקור אותה ולנקוט פעולה בזמן אמת, אבל זה מאתגר בהתחשב בקנה המידה שלנו. על מנת לטפל בקנה מידה זה ביעילות, עלינו למנף מערכות בטיחות אוטומטיות. 

אתגר טכני נוסף שאנו מתמקדים בו הוא הדיוק של אמצעי הבטיחות שלנו למתינות. ישנן שתי גישות ניהול לטיפול בהפרות מדיניות ולספק משוב מדויק בזמן אמת: ניהול תגובתי ויזום. לניהול תגובתי, אנו מפתחים מודלים של למידת מכונה (ML) כדי לזהות במדויק סוגים שונים של הפרות מדיניות, הפועלות על ידי תגובה לדיווחים מאנשים בפלטפורמה. באופן יזום, אנו עובדים על זיהוי פוטנציאל בזמן אמת תוכן שמפר את המדיניות שלנו, חינוך משתמשים לגבי התנהגותם. הבנת המילה המדוברת ושיפור איכות השמע הוא תהליך מורכב. אנחנו כבר רואים התקדמות, אבל המטרה הסופית שלנו היא לקבל מודל מדויק ביותר שיכול לזהות התנהגות מפרת מדיניות בזמן אמת. 

מהן כמה מהגישות והפתרונות החדשניים שבהם אנו משתמשים כדי להתמודד עם אתגרים טכניים אלה?

פיתחנו מודל ML מקצה לקצה שיכול לנתח נתוני אודיו ולספק רמת ביטחון המבוססת על סוג הפרות המדיניות (למשל, מה הסיכוי לבריונות, ניבול פה וכו'). מודל זה שיפר משמעותית את היכולת שלנו לסגור דוחות מסוימים באופן אוטומטי. אנו נוקטים בפעולה כאשר המודל שלנו בטוח ויכולים להיות בטוחים שהוא מתעלה על בני אדם. תוך מספר חודשים בלבד לאחר ההשקה, הצלחנו למתן כמעט את כל הדיווחים על שימוש לרעה בקול באנגלית עם הדגם הזה. פיתחנו את המודלים האלה בעצמנו וזה עדות לשיתוף הפעולה בין הרבה טכנולוגיות קוד פתוח לעבודה שלנו כדי ליצור את הטכנולוגיה שמאחוריה. 

קביעה מה מתאים בזמן אמת נראית די מורכבת. איך זה פועל?

יש מחשבה רבה בהפיכת המערכת למודעת הקשרית. אנו גם מסתכלים על דפוסים לאורך זמן לפני שאנו נוקטים פעולה כדי שנוכל להיות בטוחים שהפעולות שלנו מוצדקות. המדיניות שלנו היא בעלת ניואנסים בהתאם לגילו של אדם, בין אם הוא נמצא במרחב ציבורי או בצ'אט פרטי, וגורמים רבים אחרים. אנו בוחנים דרכים חדשות לקידום אזרחיות בזמן אמת ו-ML עומדת בלב העניין. לאחרונה השקנו הודעות דחיפה אוטומטיות (או "דחיפות") כדי להזכיר למשתמשים את המדיניות שלנו. אנחנו גם בוחנים גורמים אחרים כמו טון דיבור כדי להבין טוב יותר את כוונותיו של אדם ולהבחין בין דברים כמו ציניות או בדיחות. לבסוף, אנחנו גם בונים מודל רב לשוני מכיוון שחלק מהאנשים מדברים מספר שפות או אפילו מחליפים שפות באמצע המשפט. כדי שכל זה יהיה אפשרי, אנחנו צריכים שיהיה לנו מודל מדויק. 

נכון לעכשיו, אנו מתמקדים בטיפול בצורות הבולטות ביותר של התעללות, כגון הטרדה, אפליה וניבול פה. אלה מהווים את רוב דיווחי ההתעללות. המטרה שלנו היא להשפיע באופן משמעותי בתחומים אלה ולקבוע את הנורמות בתעשייה כיצד נראה קידום ותחזוקה של שיחה מקוונת אזרחית. אנו נרגשים מהפוטנציאל של שימוש ב-ML בזמן אמת, מכיוון שהוא מאפשר לנו לטפח ביעילות חוויה בטוחה ואזרחית לכולם. 

איך האתגרים שאנו פותרים ב-Roblox ייחודיים? מה אנחנו בעמדה לפתור קודם?

את העתיד צ'אט עם קול מרחבי הטכנולוגיה יוצרת חוויה סוחפת יותר, המחקה תקשורת בעולם האמיתי. למשל, אם אני עומד משמאל למישהו, הוא ישמע אותי באוזן השמאלית שלו. אנחנו יוצרים אנלוגיה לאופן שבו התקשורת עובדת בעולם האמיתי וזהו אתגר שאנחנו בעמדה לפתור תחילה. 

בתור גיימר בעצמי, הייתי עד להרבה הטרדות והצקות במשחקים מקוונים. זו בעיה שלעתים קרובות לא נבדקת עקב אנונימיות המשתמש והיעדר השלכות. עם זאת, האתגרים הטכניים שאנו מתמודדים איתם סביב זה הם ייחודיים למה שעומדות בפני פלטפורמות אחרות בכמה תחומים. בחלק מפלטפורמות המשחקים, האינטראקציות מוגבלות לחברי הצוות. Roblox מציעה מגוון דרכים ל-Hangout בסביבה חברתית שמחקה יותר את החיים האמיתיים. עם ההתקדמות ב-ML ועיבוד אותות בזמן אמת, אנו מסוגלים לזהות ולטפל ביעילות התנהגות פוגענית, מה שאומר שאנחנו לא רק סביבה מציאותית יותר, אלא גם כזו שבה כולם מרגישים בטוחים לתקשר ולהתחבר עם אחרים. השילוב של הטכנולוגיה שלנו, הפלטפורמה הסוחפת שלנו והמחויבות שלנו ללמד את המשתמשים לגבי המדיניות שלנו מעמידים אותנו בעמדה להתמודד עם האתגרים הללו בצורה ראשונית.

מהם כמה מהדברים המרכזיים שלמדת מביצוע העבודה הטכנית הזו?

אני מרגיש שלמדתי הרבה מאוד. אני לא מהנדס ML. עבדתי בעיקר על הקצה הקדמי במשחקים, אז עצם היכולת להעמיק ממה שהצלחתי לגבי איך הדגמים האלה עובדים היה עצום. תקוותי היא שהפעולות שאנו נוקטים כדי לקדם אזרחיות מתורגמות לרמה של אמפתיה בקהילה המקוונת שהייתה חסרה.  

למידה אחרונה היא שהכל תלוי בנתוני ההדרכה שאתה מכניס. וכדי שהנתונים יהיו מדויקים, בני אדם צריכים להסכים על התוויות המשמשות כדי לסווג התנהגויות מסוימות המפרות מדיניות. זה באמת חשוב להתאמן על נתונים איכותיים שכולם יכולים להסכים עליהם. זו בעיה ממש קשה לפתרון. אתה מתחיל לראות אזורים שבהם ML מקדימה בהרבה את כל השאר, ואז תחומים אחרים שבהם היא עדיין בשלבים המוקדמים. יש עדיין תחומים רבים שבהם ה-ML עדיין צומחת, כך שההכרה במגבלות הנוכחיות שלה היא המפתח. 

לאיזה ערך רובלוקס הצוות שלך הכי מיישר קו?

כיבוד הקהילה הוא הערך המנחה שלנו לאורך התהליך הזה. ראשית, עלינו להתמקד בשיפור האדיבות ובצמצום הפרות המדיניות בפלטפורמה שלנו. יש לכך השפעה משמעותית על חווית המשתמש הכוללת. שנית, עלינו לשקול היטב כיצד אנו מוציאים את התכונות החדשות הללו. עלינו להיות מודעים לתוצאות שגויות (למשל סימון שגוי של משהו כהתעללות) במודל ולהימנע מענישה שגויה של משתמשים. מעקב אחר הביצועים של המודלים שלנו והשפעתם על מעורבות המשתמשים הוא חיוני. 

מה הכי מרגש אותך לאן מועדות פניהם של רובלוקס והצוות שלך?

התקדמנו משמעותית בשיפור התקשורת הקולית הציבורית, אבל יש עוד הרבה מה לעשות. תקשורת פרטית היא אזור מרגש לחקור. אני חושב שיש הזדמנות ענקית לשפר את התקשורת הפרטית, לאפשר למשתמשים להביע את עצמם בפני חברים קרובים, לקיים שיחה קולית על פני חוויות או במהלך חוויה בזמן שהם מתקשרים עם החברים שלהם. אני חושב שיש גם הזדמנות לטפח את הקהילות האלה עם כלים טובים יותר כדי לאפשר למשתמשים להתארגן בעצמם, להצטרף לקהילות, לשתף תוכן ולשתף רעיונות.

ככל שאנו ממשיכים לגדול, כיצד אנו מרחיבים את טכנולוגיית הצ'אט שלנו כדי לתמוך בקהילות המתרחבות הללו? אנחנו רק מגרדים את פני השטח על הרבה ממה שאנחנו יכולים לעשות, ואני חושב שיש סיכוי לשפר את האדיבות של התקשורת המקוונת ושיתוף הפעולה ברחבי התעשייה באופן שלא נעשה בעבר. עם הטכנולוגיה הנכונות ויכולות ה-ML, אנו נמצאים בעמדה ייחודית לעצב את עתיד התקשורת המקוונת האזרחית.

בול זמן:

עוד מ רובלוקס