Inside The Tech - Solving For Safety In Immersive Voice Communication - Roblox Blog

Taasavaldanud Platon

järgijaid: 0

Inside the Tech on ajaveebisari, mis saadab meie Tehnikavestluste taskuhääling. Podcasti 20. osas "The Evolution of Roblox Avatars" rääkis Robloxi tegevjuht David Baszucki inseneriosakonna vanemdirektori Kiran Bhati, tooteosakonna vanemdirektori Mahesh Ramasubramaniani ja peamise tootejuhi Effie Goenawaniga teemal ümbritseva suhtluse tulevik avataride ja tehniliste väljakutsete kaudu, mida me selle käivitamiseks lahendame. Selles Inside the Techi väljaandes vestlesime vaneminsenerijuhi Andrew Portneriga, et saada lisateavet ühest neist tehnilistest väljakutsetest, kaasahaarava kõneside ohutusest ja sellest, kuidas meeskonna töö aitab edendada turvalist ja tsiviilotstarbelist digitaalset keskkonda kõigi jaoks. meie platvorm.

Millised on teie meeskonna suurimad tehnilised väljakutsed?

Peame esmatähtsaks oma kasutajatele turvalise ja positiivse kogemuse säilitamist. Ohutus ja viisakus on meie jaoks alati esmatähtis, kuid selle reaalajas käsitlemine võib olla suur tehniline väljakutse. Iga kord, kui tekib probleem, tahame selle üle vaadata ja reaalajas tegutseda, kuid see on meie ulatust arvestades keeruline. Selle ulatuse tõhusaks käsitlemiseks peame kasutama automatiseeritud ohutussüsteeme.

Teine tehniline väljakutse, millele keskendume, on meie ohutusmeetmete täpsus modereerimiseks. Eeskirjarikkumiste käsitlemiseks ja täpse tagasiside andmiseks reaalajas on kaks modereerimismeetodit: reageeriv ja proaktiivne modereerimine. Reaktiivse modereerimise jaoks töötame välja masinõppe (ML) mudelid, mis võimaldavad täpselt tuvastada erinevat tüüpi eeskirjade rikkumisi, mis toimivad platvormil olevate inimeste teadetele reageerides. Töötame ennetavalt potentsiaali reaalajas tuvastamise nimel sisu, mis rikub meie eeskirju, kasutajate harimine nende käitumise kohta. Suulise sõna mõistmine ja helikvaliteedi parandamine on keeruline protsess. Näeme juba edusamme, kuid meie lõppeesmärk on saada väga täpne mudel, mis suudab reaalajas tuvastada poliitikat rikkuvat käitumist.

Milliseid uuenduslikke lähenemisviise ja lahendusi kasutame nende tehniliste väljakutsete lahendamiseks?

Oleme välja töötanud täieliku ML-mudeli, mis suudab analüüsida heliandmeid ja annab usaldustaseme eeskirjade rikkumiste tüübi põhjal (nt kui tõenäoline on see kiusamine, roppused jne). See mudel on oluliselt parandanud meie võimet teatud aruandeid automaatselt sulgeda. Me tegutseme siis, kui meie mudel on enesekindel ja võib olla kindel, et see ületab inimesi. Vaid mõne kuu jooksul pärast käivitamist suutsime selle mudeliga modereerida peaaegu kõiki ingliskeelseid kõne väärkasutuse teateid. Oleme need mudelid välja töötanud ettevõttesiseselt ja see annab tunnistust koostööst paljude avatud lähtekoodiga tehnoloogiate ja meie enda tööst selle taga oleva tehnoloogia loomisel.

Reaalajas sobiva kindlaksmääramine tundub üsna keeruline. Kuidas see toimib?

Süsteemi kontekstipõhiseks muutmisele on palju mõelnud. Samuti vaatame enne tegutsemist mustreid aja jooksul, et saaksime olla kindlad, et meie tegevus on õigustatud. Meie eeskirjad sõltuvad inimese vanusest, avalikust ruumist või privaatsest vestlusest ja paljudest muudest teguritest. Uurime uusi viise viisakuse edendamiseks reaalajas ja ML on selle keskmes. Hiljuti lansseerisime automaatsed tõukemärguanded (või tõukemärguanded), et kasutajatele meie eeskirju meelde tuletada. Uurime ka muid tegureid, nagu hääletoon, et paremini mõista inimese kavatsusi ja eristada selliseid asju nagu sarkasm või naljad. Lõpuks ehitame ka mitmekeelse mudeli, kuna mõned inimesed räägivad mitut keelt või vahetavad isegi keelt lause keskel. Et see oleks võimalik, peab meil olema täpne mudel.

Praegu keskendume kõige silmatorkavamatele väärkohtlemise vormidele, nagu ahistamine, diskrimineerimine ja roppused. Need moodustavad enamiku kuritarvitamise aruannetest. Meie eesmärk on avaldada nendes valdkondades märkimisväärset mõju ja kehtestada tööstusharu normid selle kohta, milline näeb välja tsiviilõigusliku võrguvestluse edendamine ja hoidmine. Oleme põnevil ML-i reaalajas kasutamise potentsiaalist, kuna see võimaldab meil tõhusalt edendada turvalist ja tsiviilkogemust kõigi jaoks.

Kuidas on Robloxis lahendatavad väljakutsed ainulaadsed? Mida me suudame esimesena lahendada?

Meie Vestelge ruumilise häälega tehnoloogia loob kaasahaaravama kogemuse, jäljendades reaalset suhtlust. Näiteks kui ma seisan kellestki vasakul, kuuleb ta mind oma vasakus kõrvas. Loome analoogi sellele, kuidas suhtlemine reaalses maailmas toimib, ja see on väljakutse, mille saame kõigepealt lahendada.

Mängijana olen näinud võrgumängudes palju ahistamist ja kiusamist. See on probleem, mida sageli ei kontrollita kasutaja anonüümsuse ja tagajärgede puudumise tõttu. Tehnilised väljakutsed, millega me sellega tegeleme, on aga ainulaadsed teiste platvormide ees mõnes valdkonnas. Mõnel mänguplatvormil on suhtlus piiratud meeskonnakaaslastega. Roblox pakub erinevaid võimalusi hangouti pidamiseks sotsiaalses keskkonnas, mis jäljendab rohkem päriselu. Tänu ML-i ja reaalajas signaalitöötluse edusammudele suudame kuritarvitavat käitumist tõhusalt tuvastada ja sellega toime tulla, mis tähendab, et me pole mitte ainult realistlikum keskkond, vaid ka keskkond, kus kõik tunnevad end turvaliselt teistega suhtlemiseks ja ühenduse loomiseks. Meie tehnoloogia, kaasahaarava platvormi ja meie pühendumus kasutajate harimisele meie poliitikate kohta annab meile võimaluse nende väljakutsetega kiiresti toime tulla.

Millised on peamised asjad, mida olete selle tehnilise töö käigus õppinud?

Tunnen, et olen palju õppinud. Ma ei ole ML-i insener. Olen töötanud peamiselt mängude esiotsa kallal, nii et nende mudelite toimimises on olnud tohutult palju süveneda. Loodan, et meetmed, mida me viisakuse edendamiseks võtame, toovad veebikogukonnas välja empaatiataseme, millest on puudu olnud.

Viimane õpetus on see, et kõik sõltub sisestatud treeningandmetest. Andmete täpsuse huvides peavad inimesed kokku leppima sildid, mida kasutatakse teatud poliitikat rikkuva käitumise kategoriseerimiseks. Väga oluline on koolitada kvaliteetseid andmeid, millega kõik nõustuvad. See on tõesti raske probleem lahendada. Hakkate nägema valdkondi, kus ML on kõigest muust ees, ja seejärel teisi valdkondi, kus see on alles algusjärgus. On veel palju valdkondi, kus ML endiselt kasvab, seega on selle praeguste piirangute tundmine võtmetähtsusega.

Millise Robloxi väärtusega teie meeskond kõige rohkem ühtib?

Kogukonna austamine on meie juhtväärtus kogu selle protsessi vältel. Esiteks peame keskenduma viisakuse parandamisele ja poliitikarikkumiste vähendamisele meie platvormil. Sellel on oluline mõju üldisele kasutajakogemusele. Teiseks peame hoolikalt kaaluma, kuidas need uued funktsioonid kasutusele võtta. Peame arvestama valepositiivsete tulemustega (nt millegi väärkasutuseks märkimine) ja vältima kasutajate ebaõiget karistamist. Meie mudelite toimivuse ja nende mõju jälgimine kasutajate kaasamisele on ülioluline.

Mis erutab teid kõige rohkem selles, kuhu Roblox ja teie meeskond teel on?

Oleme avaliku kõneside parandamisel teinud märkimisväärseid edusamme, kuid teha on veel palju. Privaatne suhtlus on põnev valdkond, mida uurida. Ma arvan, et on tohutu võimalus parandada privaatset suhtlust, võimaldada kasutajatel end lähedastele sõpradele väljendada, teha häälkõnesid, mis läbivad kogemusi või kogemuse ajal, kui nad oma sõpradega suhtlevad. Arvan, et seal on ka võimalus edendada neid kogukondi paremate tööriistadega, mis võimaldavad kasutajatel ise organiseeruda, kogukondadega liituda, sisu ja ideid jagada.

Kasvu jätkates, kuidas saaksime oma vestlustehnoloogiat laiendada, et toetada neid laienevaid kogukondi? Me lihtsalt kriimustame pinda paljudel, mida saame teha, ja ma arvan, et meil on võimalus parandada võrgusuhtlust ja koostööd kogu tööstuses viisil, mida varem pole tehtud. Õige tehnoloogia ja ML-võimalustega oleme ainulaadsel positsioonil, et kujundada tsiviilvõrgusuhtluse tulevikku.