Inside the Tech یک سری وبلاگ است که ما را همراهی می کند پادکست Tech Talks. در قسمت 20 پادکست، تکامل آواتارهای Roblox، دیوید بازوکی، مدیر اجرایی Roblox، با مدیر ارشد مهندسی Kiran Bhat، مدیر ارشد محصول، ماهش راماسوبرامانیان، و مدیر محصول اصلی Effie Goenawan، در مورد آینده ارتباطات فراگیر از طریق آواتارها و چالش های فنی که برای تقویت آن حل می کنیم. در این نسخه Inside the Tech، با مدیر ارشد مهندسی اندرو پورتنر صحبت کردیم تا در مورد یکی از آن چالش های فنی، ایمنی در ارتباطات صوتی فراگیر، و اینکه چگونه کار تیم به ایجاد یک محیط دیجیتال امن و مدنی برای همه افراد کمک می کند، بیشتر بیاموزیم. پلت فرم ما
بزرگترین چالش های فنی تیم شما چیست؟
ما حفظ یک تجربه ایمن و مثبت برای کاربران خود را در اولویت قرار می دهیم. ایمنی و مدنیت همیشه برای ما مهم هستند، اما مدیریت آن در زمان واقعی می تواند یک چالش فنی بزرگ باشد. هر زمان که مشکلی وجود دارد، میخواهیم بتوانیم آن را بررسی کنیم و در زمان واقعی اقدام کنیم، اما با توجه به مقیاس ما، این موضوع چالش برانگیز است. برای مدیریت موثر این مقیاس، باید از سیستم های ایمنی خودکار استفاده کنیم.
یکی دیگر از چالش های فنی که ما روی آن تمرکز کرده ایم، دقت اقدامات ایمنی ما برای اعتدال است. دو رویکرد تعدیل برای رسیدگی به تخلفات خط مشی و ارائه بازخورد دقیق در زمان واقعی وجود دارد: تعدیل واکنشی و پیشگیرانه. برای تعدیل واکنشی، ما در حال توسعه مدلهای یادگیری ماشینی (ML) برای شناسایی دقیق انواع مختلف نقض خطمشی هستیم که با پاسخ دادن به گزارشهای افراد در پلتفرم کار میکنند. به طور فعال، ما در حال کار بر روی تشخیص همزمان پتانسیل هستیم محتوایی که خطمشیهای ما را نقض میکند، آموزش دادن به کاربران در مورد رفتارشان. درک کلمه گفتاری و بهبود کیفیت صدا یک فرآیند پیچیده است. ما در حال حاضر شاهد پیشرفت هستیم، اما هدف نهایی ما داشتن یک مدل بسیار دقیق است که بتواند رفتارهای نقض کننده خط مشی را در زمان واقعی تشخیص دهد.
برخی از رویکردها و راه حل های نوآورانه ای که برای مقابله با این چالش های فنی استفاده می کنیم چیست؟
ما یک مدل ML سرتاسر ایجاد کردهایم که میتواند دادههای صوتی را تجزیه و تحلیل کند و بر اساس نوع نقض خطمشی (مثلاً میزان احتمال این قلدری، ناسزاگویی و غیره) یک سطح اطمینان ارائه میکند. این مدل توانایی ما را برای بستن خودکار گزارشهای خاص به طور قابل توجهی بهبود بخشیده است. ما زمانی اقدام می کنیم که مدل ما مطمئن باشد و مطمئن باشد که از انسان ها بهتر است. تنها در عرض چند ماه پس از راهاندازی، ما توانستیم تقریباً تمام گزارشهای سوء استفاده از صدای انگلیسی را با این مدل تعدیل کنیم. ما این مدلها را در داخل توسعه دادهایم و این گواهی بر همکاری بین بسیاری از فناوریهای منبع باز و کار خودمان برای ایجاد فناوری پشت آن است.
تعیین اینکه چه چیزی در زمان واقعی مناسب است بسیار پیچیده به نظر می رسد. چطور کار میکند؟
فکر زیادی برای آگاه کردن سیستم از نظر زمینه ای وجود دارد. ما همچنین قبل از اقدام به الگوها در طول زمان نگاه می کنیم تا بتوانیم از موجه بودن اعمالمان مطمئن شویم. خطمشیهای ما بسته به سن افراد، خواه در یک فضای عمومی یا یک چت خصوصی، و بسیاری عوامل دیگر متفاوت است. ما در حال بررسی راههای جدیدی برای ترویج مدنیت در زمان واقعی هستیم و ML در قلب آن قرار دارد. ما اخیراً اعلانهای فشار خودکار (یا «تکان») را راهاندازی کردیم تا خطمشیهای خود را به کاربران یادآوری کنیم. ما همچنین به دنبال عوامل دیگری مانند لحن صدا برای درک بهتر مقاصد یک فرد و تشخیص چیزهایی مانند طعنه یا شوخی هستیم. در نهایت، ما همچنین در حال ساخت یک مدل چند زبانه هستیم زیرا برخی از افراد به چندین زبان صحبت میکنند یا حتی زبان را در میان جمله تغییر میدهند. برای اینکه هر یک از اینها امکان پذیر باشد، باید یک مدل دقیق داشته باشیم.
در حال حاضر، ما بر روی برجستهترین اشکال سوء استفاده، مانند آزار و اذیت، تبعیض، و ناسزا تمرکز داریم. اینها اکثر گزارش های سوء استفاده را تشکیل می دهند. هدف ما این است که تأثیر قابل توجهی در این زمینه ها داشته باشیم و هنجارهای صنعت را برای ترویج و حفظ مکالمه آنلاین مدنی تعیین کنیم. ما در مورد پتانسیل استفاده از ML در زمان واقعی هیجان زده هستیم، زیرا ما را قادر می سازد تا به طور موثر تجربه ای امن و مدنی را برای همه ایجاد کنیم.
چالش هایی که در Roblox حل می کنیم چگونه منحصر به فرد هستند؟ ما در موقعیتی هستیم که ابتدا چه چیزی را حل کنیم؟
با صدای فضایی چت کنید فناوری با تقلید از ارتباطات دنیای واقعی، تجربه ای فراگیرتر ایجاد می کند. به عنوان مثال، اگر من در سمت چپ کسی بایستم، او صدای من را در گوش چپ خود خواهد شنید. ما در حال ایجاد یک آنالوگ برای نحوه کار ارتباطات در دنیای واقعی هستیم و این چالشی است که ما در موقعیتی هستیم که ابتدا آن را حل کنیم.
به عنوان یک گیمر، من شاهد آزار و اذیت و آزار و اذیت های زیادی در بازی های آنلاین بوده ام. این مشکلی است که اغلب به دلیل ناشناس بودن کاربر و عدم عواقب آن بررسی نمی شود. با این حال، چالشهای فنی که ما در مورد این موضوع با آن مقابله میکنیم، منحصربهفرد است که سایر پلتفرمها در چند زمینه با آن مواجه هستند. در برخی از پلتفرم های بازی، تعاملات به هم تیمی ها محدود می شود. Roblox راههای مختلفی برای پاتوق در یک محیط اجتماعی ارائه میکند که بیشتر شبیه زندگی واقعی است. با پیشرفتهایی در ML و پردازش سیگنال بلادرنگ، ما میتوانیم به طور موثر رفتارهای توهینآمیز را شناسایی کرده و به آنها رسیدگی کنیم، به این معنی که ما نه تنها یک محیط واقعیتر هستیم، بلکه محیطی هستیم که در آن همه برای تعامل و ارتباط با دیگران احساس امنیت میکنند. ترکیبی از فناوری ما، پلت فرم همهجانبه ما، و تعهد ما به آموزش کاربران در مورد خطمشیهایمان، ما را در موقعیتی قرار میدهد که با این چالشها مقابله کنیم.
برخی از نکات کلیدی که از انجام این کار فنی آموخته اید چیست؟
احساس می کنم چیز قابل توجهی یاد گرفته ام. من یک مهندس ML نیستم. من بیشتر در قسمت جلویی در بازی کار کردهام، بنابراین اینکه میتوانم در مورد نحوه عملکرد این مدلها عمیقتر از آنچه که داشتم صحبت کنم بسیار عالی بوده است. امید من این است که اقداماتی که برای ترویج مدنیت انجام می دهیم به سطحی از همدلی در جامعه آنلاین تبدیل شود که فاقد آن بوده است.
آخرین آموخته این است که همه چیز به دادههای آموزشی بستگی دارد که شما وارد میکنید. و برای اینکه دادهها دقیق باشند، انسانها باید روی برچسبهایی که برای دستهبندی برخی رفتارهای نقضکننده خطمشی استفاده میشوند توافق کنند. آموزش داده های باکیفیت که همه بتوانند روی آن توافق داشته باشند، واقعاً مهم است. حل این مشکل واقعاً سخت است. شما شروع به دیدن مناطقی می کنید که ML بسیار جلوتر از هر چیز دیگری است، و سپس مناطق دیگری که هنوز در مراحل اولیه است. هنوز زمینه های زیادی وجود دارد که ML هنوز در حال رشد است، بنابراین آگاهی از محدودیت های فعلی آن بسیار مهم است.
تیم شما با کدام ارزش Roblox هماهنگی بیشتری دارد؟
احترام به جامعه ارزش راهنمای ما در طول این فرآیند است. اول، ما باید بر بهبود مدنیت و کاهش نقض سیاست در پلت فرم خود تمرکز کنیم. این تأثیر قابل توجهی بر تجربه کلی کاربر دارد. دوم، ما باید به دقت در نظر بگیریم که چگونه این ویژگیهای جدید را عرضه میکنیم. ما باید مراقب نکات مثبت کاذب (مانند علامت گذاری نادرست چیزی به عنوان سوء استفاده) در مدل باشیم و از جریمه نادرست کاربران خودداری کنیم. نظارت بر عملکرد مدل های ما و تأثیر آنها بر تعامل کاربر بسیار مهم است.
چه چیزی شما را بیشتر در مورد جایی که Roblox و تیم شما هدایت می کند هیجان زده می کند؟
ما پیشرفت قابل توجهی در بهبود ارتباطات صوتی عمومی داشته ایم، اما هنوز کارهای بیشتری باید انجام شود. ارتباطات خصوصی یک منطقه هیجان انگیز برای کشف است. من فکر میکنم فرصت بزرگی برای بهبود ارتباطات خصوصی وجود دارد، به کاربران اجازه میدهیم خود را با دوستان نزدیک خود بیان کنند، در حین تعامل با دوستان خود یک تماس صوتی داشته باشند. من فکر می کنم فرصتی برای تقویت این جوامع با ابزارهای بهتر وجود دارد تا کاربران را قادر سازد تا خود سازماندهی شوند، به جوامع بپیوندند، محتوا را به اشتراک بگذارند و ایده ها را به اشتراک بگذارند.
همانطور که به رشد خود ادامه میدهیم، چگونه فناوری چت خود را برای حمایت از این جوامع در حال گسترش مقیاس کنیم؟ ما فقط داریم روی بسیاری از کارهایی که میتوانیم انجام دهیم، روی سطح کار میکنیم، و فکر میکنم فرصتی برای بهبود مدنیت ارتباطات آنلاین و همکاری در سراسر صنعت وجود دارد، به گونهای که قبلاً انجام نشده است. با فناوری مناسب و قابلیت های ML، ما در موقعیت منحصر به فردی برای شکل دادن به آینده ارتباطات آنلاین مدنی قرار داریم.
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://blog.roblox.com/2024/01/inside-the-tech-solving-for-safety-in-immersive-voice-communication/
- : دارد
- :است
- :نه
- :جایی که
- $UP
- 20
- a
- توانایی
- قادر
- درباره ما
- سو استفاده کردن
- دقت
- دقیق
- به درستی
- در میان
- عمل
- اقدامات
- نشانی
- خطاب به
- پیشرفت
- پس از
- سن
- پیش
- هدف
- تراز
- معرفی
- اجازه دادن
- تقریبا
- قبلا
- همچنین
- همیشه
- an
- تحلیل
- و
- اندرو
- ناشناس
- هر
- رویکردها
- مناسب
- هستند
- محدوده
- مناطق
- دور و بر
- AS
- At
- سمعی
- خودکار
- بطور خودکار
- آواتار ها
- اجتناب از
- مطلع
- مستقر
- BE
- بوده
- قبل از
- شروع
- رفتار
- پشت سر
- بودن
- بهتر
- میان
- بزرگ
- بزرگترین
- بلاگ
- بنا
- قلدری
- اما
- by
- صدا
- CAN
- قابلیت های
- Осторожно
- مدیر عامل شرکت
- معین
- به چالش
- چالش ها
- به چالش کشیدن
- شانس
- گپ
- مدنی
- نزدیک
- نزدیک
- دانا
- همکاری
- ترکیب
- تعهد
- ارتباط
- جوامع
- انجمن
- پیچیده
- اعتماد به نفس
- مطمئن
- اتصال
- عواقب
- در نظر بگیرید
- قابل توجه
- محتوا
- ادامه دادن
- گفتگو
- زن و شوهر
- ایجاد
- ایجاد
- ایجاد
- بسیار سخت
- جاری
- داده ها
- داود
- مقدار
- عمیق تر
- بستگی دارد
- بستگی دارد
- تشخیص
- کشف
- توسعه
- در حال توسعه
- مختلف
- دیجیتال
- مدیر
- تبعیض
- تمیز دادن
- do
- میکند
- عمل
- انجام شده
- دو
- در طی
- e
- در اوایل
- چاپ
- آموزش
- به طور موثر
- دیگر
- یکدلی
- قادر ساختن
- را قادر می سازد
- پایان
- پشت سر هم
- نامزدی
- مهندس
- مهندسی
- انگلیسی
- محیط
- قسمت
- و غیره
- حتی
- هر کس
- همه چیز
- تکامل
- برانگیخته
- برانگیخته
- مهیج
- گسترش
- تجربه
- تجارب
- اکتشاف
- بررسی
- صریح
- نما
- عوامل
- غلط
- امکانات
- باز خورد
- احساس
- احساس
- نام خانوادگی
- تمرکز
- متمرکز شده است
- برای
- اشکال
- پرورش دادن
- دوستان
- از جانب
- جلو
- پایان جلو
- آینده
- بازی
- داده
- Go
- هدف
- می رود
- رفتن
- شدن
- در حال رشد
- راهنمایی
- مشت
- دسته
- اداره
- آزار و اذیت
- سخت
- آیا
- سر
- به رهبری
- شنیدن
- قلب
- کمک
- خیلی
- امید
- چگونه
- اما
- HTTPS
- بزرگ
- انسان
- i
- ایده ها
- شناسایی
- if
- همهجانبه
- تأثیر
- مهم
- بهبود
- بهبود یافته
- بهبود
- in
- نادرست
- صنعت
- ابتکاری
- داخل
- نمونه
- نیت
- تعامل
- فعل و انفعالات
- به
- موضوع
- IT
- ITS
- پیوستن
- تنها
- تعدیل شده
- کلید
- برچسب ها
- عدم
- فاقد
- زبان ها
- نام
- در آخر
- راه اندازی
- راه اندازی
- یاد گرفتن
- آموخته
- یادگیری
- ترک کرد
- سطح
- قدرت نفوذ
- زندگی
- پسندیدن
- احتمالا
- محدود شده
- محدودیت
- نگاه کنيد
- به دنبال
- مطالب
- خیلی
- دستگاه
- فراگیری ماشین
- ساخته
- نگهداری
- اکثریت
- ساخت
- ساخت
- مدیر
- بسیاری
- علامت گذاری
- me
- به معنی
- معیارهای
- ذهن
- ML
- مدل
- مدل
- متوسط
- اعتدال
- نظارت بر
- ماه
- بیش
- اکثر
- اغلب
- بسیار
- چندگانه
- باید
- my
- yo mismo
- نیاز
- جدید
- ویژگی های جدید
- هنجارها
- اطلاعیه ها
- of
- پیشنهادات
- غالبا
- on
- ONE
- آنلاین
- بازی های آنلاین
- فقط
- باز کن
- منبع باز
- فرصت
- or
- سفارش
- دیگر
- دیگران
- ما
- خارج
- عملکرد بهتر
- روی
- به طور کلی
- خود
- الگوهای
- مردم
- کارایی
- سکو
- سیستم عامل
- افلاطون
- هوش داده افلاطون
- PlatoData
- پادکست
- سیاست
- سیاست
- موقعیت
- مثبت
- ممکن
- پتانسیل
- قدرت
- دقیق
- زیبا
- اصلی
- اولویت بندی
- خصوصی
- بلادرنگ
- مشکل
- روند
- در حال پردازش
- محصول
- مدیر تولید
- ناسزاگویی
- پیشرفت
- برجسته
- ترویج
- ترویج
- ارائه
- فراهم می کند
- عمومی
- فشار
- قرار دادن
- قرار می دهد
- کیفیت
- داده های کافی
- واقعی
- زندگی واقعی
- دنیای واقعی
- زمان واقعی
- واقع بینانه
- واقعا
- تازه
- کاهش
- گزارش ها
- پاسخ دادن
- این فایل نقد می نویسید:
- راست
- Roblox
- نورد
- امن
- ایمنی
- طعنه
- مقیاس
- دوم
- دیدن
- مشاهده
- به نظر می رسد
- ارشد
- سلسله
- تنظیم
- شکل
- اشتراک گذاری
- سیگنال
- قابل توجه
- به طور قابل توجهی
- پس از
- So
- آگاهی
- مزایا
- حل
- حل کردن
- برخی از
- کسی
- چیزی
- منبع
- فضا
- فضایی
- سخن گفتن
- گفته شده
- مراحل
- ایستاده
- هنوز
- چنین
- پشتیبانی
- مطمئن
- سطح
- گزینه
- سیستم
- سیستم های
- برخورد با
- مقابله با
- گرفتن
- مصرف
- مذاکرات
- تیم
- فن آوری
- فنی
- فن آوری
- پیشرفته
- اراده
- نسبت به
- که
- La
- آینده
- شان
- خودشان
- سپس
- آنجا.
- اینها
- آنها
- اشیاء
- فکر می کنم
- این
- کسانی که
- فکر
- از طریق
- سراسر
- زمان
- به
- TONE
- صدای صدا
- ابزار
- بالا
- قطار
- آموزش
- ترجمه کردن
- دو
- نوع
- انواع
- نهایی
- فهمیدن
- درک
- منحصر به فرد
- us
- استفاده
- کاربر
- سابقه کاربر
- کاربران
- با استفاده از
- ارزش
- تنوع
- نقض
- صدا
- می خواهم
- مسیر..
- راه
- we
- بود
- چی
- چه شده است
- چه زمانی
- چه
- که
- در حین
- با
- در داخل
- شاهد
- کلمه
- مهاجرت کاری
- مشغول به کار
- کارگر
- با این نسخهها کار
- جهان
- شما
- شما
- زفیرنت