Inside the Tech – Megoldás a biztonságért a magával ragadó hangkommunikációban – Roblox Blog

Inside the Tech – Megoldás a biztonságért a magával ragadó hangkommunikációban – Roblox Blog

Időbélyeg: 18. január 2024. 4:44
Forrás csomópont: 3070360

Az Inside the Tech egy blogsorozat, amely a mi oldalunkat kíséri Tech Talks podcast. A The Evolution of Roblox Avatars című podcast 20. epizódjában a Roblox vezérigazgatója, David Baszucki beszélt Kiran Bhat műszaki igazgatóval, Mahesh Ramasubramanian termékosztály vezető igazgatójával és Effie Goenawan fő termékmenedzserrel a a magával ragadó kommunikáció jövője az avatárokon és az általunk megoldandó technikai kihívásokon keresztül. Az Inside the Tech jelen kiadásában Andrew Portner mérnöki vezetővel beszélgettünk, hogy többet megtudjunk az egyik technikai kihívásról, a magával ragadó hangkommunikáció biztonságáról, és arról, hogy a csapat munkája hogyan segíti elő a biztonságos és civil digitális környezet kialakítását mindenki számára. a platformunk.

Melyek a csapatod legnagyobb technikai kihívásai?

Prioritásként kezeljük a biztonságos és pozitív felhasználói élmény fenntartását. Biztonság és udvariasság mindig a legfontosabb számunkra, de valós idejű kezelése komoly technikai kihívást jelenthet. Valahányszor probléma adódik, azt szeretnénk, ha meg tudjuk vizsgálni, és valós időben intézkedni, de ez a mi méretünkhöz képest kihívást jelent. Ennek a léptéknek a hatékony kezelése érdekében automatizált biztonsági rendszereket kell kihasználnunk. 

Egy másik technikai kihívás, amelyre összpontosítunk, a moderálásra vonatkozó biztonsági intézkedéseink pontossága. Két moderálási megközelítés létezik az irányelvsértések kezelésére és a valós idejű pontos visszajelzésre: reaktív és proaktív moderálás. A reaktív moderálás érdekében gépi tanulási (ML) modelleket fejlesztünk, amelyek pontosan azonosítják az irányelvsértések különböző típusait, amelyek a platformon lévő személyek bejelentéseire reagálva működnek. Proaktívan dolgozunk a potenciál valós idejű észlelésén az irányelveinket sértő tartalom, a felhasználók felvilágosítása a viselkedésükről. A kimondott szó megértése és a hangminőség javítása összetett folyamat. Már látunk előrelépést, de végső célunk egy rendkívül pontos modell, amely valós időben képes észlelni az irányelvsértő magatartást. 

Melyek azok az innovatív megközelítések és megoldások, amelyeket ezeknek a technikai kihívásoknak a leküzdésére használunk?

Kifejlesztettünk egy végpontok közötti ML-modellt, amely képes elemezni a hangadatokat, és megbízhatósági szintet biztosít az irányelvek megsértésének típusa alapján (pl. mennyire valószínű ez a zaklatás, trágárkodás stb.). Ez a modell jelentősen javította bizonyos jelentések automatikus bezárásának lehetőségét. Akkor cselekszünk, ha modellünk magabiztos, és biztosak lehetünk benne, hogy felülmúlja az emberek teljesítményét. Az indulás után néhány hónapon belül szinte az összes angol nyelvű hangvisszaélés-jelentést moderálni tudtuk ezzel a modellel. Ezeket a modelleket házon belül fejlesztettük ki, és ez bizonyítja a sok nyílt forráskódú technológia közötti együttműködést, valamint a mögötte álló technológia létrehozásán végzett saját munkánkat. 

A megfelelő valós időben történő meghatározása meglehetősen bonyolultnak tűnik. Hogyan működik?

Sokat gondolkodnak azon, hogy a rendszert kontextuálisan tudatosítsák. Megvizsgáljuk az idő múlásával kialakuló mintákat is, mielőtt cselekednénk, így biztosak lehetünk benne, hogy tetteink indokoltak. Irányelveink árnyaltak az adott személy életkorától, attól, hogy nyilvános téren vagy privát csevegésen vesznek részt, és sok más tényezőtől függően. Az udvariasság valós idejű népszerűsítésének új módjait vizsgáljuk, és ennek középpontjában az ML áll. Nemrég bevezettük az automatikus push értesítéseket (vagy „bökéseket”), hogy emlékeztessük a felhasználókat irányelveinkre. Más tényezőket is megvizsgálunk, például a hangszínt, hogy jobban megértsük a személy szándékait, és megkülönböztethessük az olyan dolgokat, mint a szarkazmus vagy a vicc. Végül egy többnyelvű modellt is építünk, mivel egyesek több nyelvet beszélnek, vagy akár a mondat közepén váltanak nyelvet. Ahhoz, hogy mindez lehetséges legyen, pontos modellre van szükségünk. 

Jelenleg a visszaélések legszembetűnőbb formáinak, például a zaklatásnak, a diszkriminációnak és a trágárságnak a kezelésére összpontosítunk. Ezek alkotják a visszaélésekről szóló jelentések többségét. Célunk, hogy ezeken a területeken jelentős hatást érjünk el, és meghatározzuk az iparági normákat arra vonatkozóan, hogy hogyan néz ki egy civil online beszélgetés népszerűsítése és fenntartása. Izgatottak vagyunk az ML valós idejű használatában rejlő lehetőségek miatt, mivel ez lehetővé teszi számunkra, hogy hatékonyan elősegítsük a biztonságos és civil élményt mindenki számára. 

Mennyiben egyediek azok a kihívások, amelyeket a Robloxnál megoldunk? Mit tudunk először megoldani?

termékeink Csevegés a Spatial Voice segítségével a technológia magával ragadóbb élményt hoz létre, utánozva a valós kommunikációt. Például, ha valakitől balra állok, akkor a bal fülében hall. Analógot hozunk létre a kommunikáció valós világában való működéséhez, és ez egy olyan kihívás, amelyet először meg tudunk oldani. 

Játékosként sok zaklatásnak és zaklatásnak voltam tanúja az online játékok során. Ez egy olyan probléma, amelyet gyakran nem ellenőriznek a felhasználói névtelenség és a következmények hiánya miatt. Azonban a technikai kihívások, amelyekkel ezzel kapcsolatban megküzdünk, egyedülállóak azokra a területekre, amelyekkel más platformok szembesülnek néhány területen. Egyes játékplatformokon az interakciók a csapattársakra korlátozódnak. A Roblox számos módot kínál a társalgó társalgásra olyan közösségi környezetben, amely jobban utánozza a valós életet. Az ML és a valós idejű jelfeldolgozás fejlődésével képesek vagyunk hatékonyan észlelni és kezelni a visszaélésszerű viselkedést, ami azt jelenti, hogy nemcsak valósághűbb környezetet alkotunk, hanem olyan is, ahol mindenki biztonságban érzi magát, hogy kapcsolatba léphessen másokkal. Technológiánk, magával ragadó platformunk és elkötelezettségünk, hogy felvilágosítsuk a felhasználókat az irányelveinkről, olyan helyzetbe hoz bennünket, hogy e kihívásokkal szembenézzünk.

Melyek azok a kulcsfontosságú dolgok, amelyeket megtanultál e technikai munka során?

Úgy érzem, sokat tanultam. Nem vagyok ML mérnök. Leginkább a játékok frontján dolgoztam, szóval az, hogy mélyebbre tudtam menni ezeknek a modelleknek a működésével kapcsolatban, óriási volt. Remélem, hogy az udvariasság előmozdítása érdekében tett lépéseink olyan szintű empátiát eredményeznek az online közösségben, amely eddig hiányzott.  

Az utolsó tanulság az, hogy minden a betöltött képzési adatoktól függ. Ahhoz, hogy az adatok pontosak legyenek, az embereknek meg kell állapodniuk abban, hogy milyen címkéket használnak bizonyos irányelvsértő magatartások kategorizálására. Nagyon fontos a minőségi adatok képzése, amelyekben mindenki egyetérthet. Ez egy igazán nehezen megoldható probléma. Elkezdi látni azokat a területeket, ahol az ML minden más előtt jár, majd olyan területeket, ahol még a korai szakaszban van. Még mindig sok olyan terület van, ahol az ML még mindig növekszik, ezért kulcsfontosságú, hogy tisztában legyünk jelenlegi korlátaival. 

Melyik Roblox értékhez igazodik leginkább a csapata?

A közösség tisztelete a mi irányadó értékünk ebben a folyamatban. Először is az udvariasság javítására és a szabályzatsértések csökkentésére kell összpontosítanunk platformunkon. Ez jelentős hatással van az általános felhasználói élményre. Másodszor, alaposan meg kell fontolnunk, hogyan vezetjük be ezeket az új funkciókat. Ügyelnünk kell a modellben szereplő téves pozitív jelenségekre (pl. valamit helytelenül visszaélésként jelölni), és kerülni kell a felhasználók helytelen megbüntetését. A modelljeink teljesítményének és a felhasználói elköteleződésre gyakorolt ​​hatásának nyomon követése kulcsfontosságú. 

Mi izgat a legjobban abban, hogy Roblox és csapata merre tart?

Jelentős előrelépést tettünk a nyilvános hangkommunikáció javítása terén, de még sok a tennivaló. A privát kommunikáció izgalmas terület, amelyet érdemes felfedezni. Úgy gondolom, hogy óriási lehetőség kínálkozik a privát kommunikáció javítására, lehetővé téve a felhasználók számára, hogy kifejezzék magukat közeli barátaikkal, hanghívást folytathassanak az élmények során vagy egy élmény során, miközben a barátaikkal érintkeznek. Úgy gondolom, hogy lehetőség nyílik arra is, hogy ezeket a közösségeket olyan jobb eszközökkel támogassuk, amelyek lehetővé teszik a felhasználók számára az önszerveződést, a közösségekhez való csatlakozást, a tartalmak és ötletek megosztását.

Miközben folyamatosan növekszünk, hogyan méretezhetjük csevegési technológiánkat, hogy támogassuk ezeket a bővülő közösségeket? Még csak a felszínt kapargatjuk azon, hogy mit tehetünk, és úgy gondolom, hogy van esély az online kommunikáció és az együttműködés udvariasságának javítására az iparágban, oly módon, ahogyan korábban nem volt. A megfelelő technológiával és ML-képességekkel egyedülálló helyzetben vagyunk a civil online kommunikáció jövőjének alakításában.

Időbélyeg:

Még több roblox