テクノロジーの内部 – イマーシブ音声コミュニケーションにおける安全性の解決 – Roblox ブログ

Inside the Tech は、当社のレポートに付随するブログ シリーズです。 テックトークポッドキャスト。ポッドキャスト「The Evolution of Roblox Avatars」のエピソード 20 で、Roblox CEO の David Baszucki 氏が、エンジニアリング担当シニア ディレクターの Kiran Bhat 氏、プロダクト担当シニア ディレクターの Mahesh Ramasubramanian 氏、プリンシパル プロダクト マネージャーの Effie Goenawan 氏と、 没入型コミュニケーションの未来 アバターと、それを実現するために私たちが解決している技術的課題を通して。 Inside the Tech の今回の号では、シニア エンジニアリング マネージャーの Andrew Portner と対談し、それらの技術的課題の 1 つであるイマーシブ音声通信の安全性、そしてチームの取り組みがすべての人にとって安全で民間のデジタル環境の促進にどのように役立っているかについて詳しく学びました。私たちのプラットフォーム。

あなたのチームが取り組んでいる最大の技術的課題は何ですか?

私たちはユーザーの安全でポジティブなエクスペリエンスを維持することを優先しています。 安全と礼儀正しさ 私たちは常にそれを念頭に置いていますが、それをリアルタイムで処理することは技術的に大きな課題となる可能性があります。 問題が発生したときは、それをリアルタイムで確認して対応できるようにしたいと考えていますが、当社の規模を考えるとこれは困難です。この規模に効果的に対処するには、自動化された安全システムを活用する必要があります。 

私たちが焦点を当てているもう 1 つの技術的課題は、節度に対する安全対策の正確さです。ポリシー違反に対処し、リアルタイムで正確なフィードバックを提供するには、リアクティブなモデレーションとプロアクティブなモデレーションという 2 つのモデレーション アプローチがあります。事後対応型のモデレーションのために、さまざまな種類のポリシー違反を正確に特定するための機械学習 (ML) モデルを開発しています。このモデルは、プラットフォーム上のユーザーからの報告に応答することで機能します。私たちは、潜在的な可能性のリアルタイム検出に積極的に取り組んでいます。 当社のポリシーに違反するコンテンツ、ユーザーの行動について教育します。話された言葉を理解し、音質を向上させることは複雑なプロセスです。すでに進歩は見られますが、最終的な目標は、ポリシー違反の動作をリアルタイムで検出できる高精度のモデルを作成することです。 

これらの技術的課題に取り組むために私たちが使用している革新的なアプローチとソリューションにはどのようなものがありますか?

私たちは、音声データを分析し、ポリシー違反の種類 (いじめや冒涜の可能性など) に基づいて信頼レベルを提供できるエンドツーエンドの ML モデルを開発しました。このモデルにより、特定のレポートを自動的に閉じる機能が大幅に向上しました。モデルに自信があり、人間よりも優れていると確信できる場合、私たちは行動を起こします。リリース後わずか数か月以内に、このモデルを使用して、ほぼすべての英語の音声不正行為レポートを管理することができました。私たちはこれらのモデルを社内で開発しました。これは、多くのオープンソース テクノロジーと、その背後にあるテクノロジーを作成するための私たち自身の取り組みとのコラボレーションの証です。 

何が適切であるかをリアルタイムで判断することは、かなり複雑に思えます。それはどのように機能するのでしょうか?

システムがコンテキストを認識できるようにするためには、多くの考慮が払われています。また、行動を起こす前に時間の経過とともにパターンを観察し、自分の行動が正当であることを確認します。 私たちのポリシーは、個人の年齢、公共の場にいるのかプライベートなチャットにいるのか、その他多くの要因に応じて微妙に異なります。 私たちはリアルタイムで礼儀正しさを促進する新しい方法を模索しており、ML はその中心です。最近、ユーザーにポリシーを思い出させるための自動プッシュ通知 (または「ナッジ」) を開始しました。また、人の意図をよりよく理解し、皮肉やジョークなどを区別できるよう、声の調子などの他の要素も調査しています。最後に、人によっては複数の言語を話したり、文の途中で言語を切り替えたりするため、多言語モデルも構築しています。これらを可能にするためには、正確なモデルが必要です。 

現在、私たちはハラスメント、差別、冒涜などの最も顕著な形態の虐待に対処することに重点を置いています。これらは虐待報告の大部分を占めます。私たちの目標は、これらの分野に大きな影響を与え、民間のオンライン会話の促進と維持がどのようなものであるかについての業界標準を設定することです。私たちは、ML をリアルタイムで使用することで、すべての人にとって安全で市民的なエクスペリエンスを効果的に促進できるようになる可能性に興奮しています。 

Roblox で解決している課題はどのような点で独特ですか?私たちが最初に解決すべき立場にあるのは何でしょうか?

本サイトの 空間音声でチャット テクノロジーは、現実世界のコミュニケーションを模倣し、より没入型のエクスペリエンスを生み出します。たとえば、私が誰かの左側に立っていると、彼らは左耳で私の声を聞くでしょう。私たちは現実世界でのコミュニケーションの仕組みに類似したものを作成しており、これが私たちが最初に解決すべき課題です。 

私自身ゲーマーとして、オンライン ゲームにおける多くの嫌がらせやいじめを目撃してきました。これは、ユーザーの匿名性と結果の欠如により、チェックされないままになることが多い問題です。ただし、これに関して私たちが取り組んでいる技術的な課題は、他のプラットフォームがいくつかの分野で直面しているものに特有のものです。 一部のゲーム プラットフォームでは、対話はチームメイトに限定されます。 Roblox は、現実の生活をより忠実に再現したソーシャル環境でハングアウトするためのさまざまな方法を提供します。 ML とリアルタイム信号処理の進歩により、虐待行為を効果的に検出して対処できるようになりました。これは、より現実的な環境であるだけでなく、誰もが安全に他の人と対話し、つながりを持てる環境であることを意味します。当社のテクノロジー、没入型プラットフォーム、および当社のポリシーについてユーザーを教育する取り組みを組み合わせることで、当社はこれらの課題に正面から取り組むことができる立場にあります。

この技術的な作業を通じて学んだ重要なことは何ですか?

かなりのことを学んだ気がします。私は ML エンジニアではありません。私は主にゲームのフロントエンドで働いてきたので、これらのモデルがどのように機能するかについて、これまでより深く掘り下げることができただけでも非常に大きかったです。私の願いは、私たちが礼儀正しさを促進するために取っている行動が、オンライン コミュニティに欠けていたレベルの共感につながることです。  

最後に学んだことは、すべては入力したトレーニング データに依存するということです。データが正確であるためには、特定のポリシー違反行為を分類するために使用されるラベルについて人間が同意する必要があります。誰もが同意できる質の高いデータに基づいてトレーニングすることが非常に重要です。それは解決するのが本当に難しい問題です。 ML が他のすべてよりもはるかに先を行っている領域と、まだ初期段階にある領域が見え始めます。 ML はまだ成長している分野が多くあるため、現在の限界を認識することが重要です。 

あなたのチームが最も共感するRobloxの価値はどれですか?

コミュニティを尊重することが、このプロセス全体を通しての私たちの指針となる価値観です。まず、プラットフォーム上で礼儀正しさを向上させ、ポリシー違反を減らすことに重点を置く必要があります。これは全体的なユーザー エクスペリエンスに大きな影響を与えます。次に、これらの新機能をどのように展開するかを慎重に検討する必要があります。モデル内の誤検知 (誤って不正行為としてマークするなど) に注意し、ユーザーに不当なペナルティを課さないようにする必要があります。モデルのパフォーマンスとユーザー エンゲージメントへの影響を監視することは非常に重要です。 

Roblox とあなたのチームがどこに向かっているのかについて、最も興奮していることは何ですか?

私たちは公衆音声コミュニケーションの改善において大きな進歩を遂げてきましたが、やるべきことはまだたくさんあります。プライベートなコミュニケーションは、探求すべきエキサイティングな領域です。プライベートなコミュニケーションを改善し、ユーザーが親しい友人に自分の気持ちを表現したり、複数のエクスペリエンス間で、またはエクスペリエンス中に友人と対話しながら音声通話を行えるようにしたりする大きなチャンスがあると思います。ユーザーが自己組織化し、コミュニティに参加し、コンテンツを共有し、アイデアを共有できるようにする、より優れたツールを使用してこれらのコミュニティを育成する機会もあると思います。

私たちが成長を続ける中、拡大するコミュニティをサポートするためにチャット テクノロジーをどのように拡張すればよいでしょうか? 私たちはできることの多くはほんの表面をなぞっただけですが、これまでになかった方法で業界全体のオンライン コミュニケーションとコラボレーションの礼儀正しさを向上させるチャンスがあると思います。適切なテクノロジーと ML 機能により、私たちは民間オンライン コミュニケーションの未来を形作る独自の立場にあります。

• SEO を活用したコンテンツと PR 配信。 今日増幅されます。
• PlatoData.Network 垂直生成 Ai。 自分自身に力を与えましょう。 こちらからアクセスしてください。
• プラトアイストリーム。 Web3 インテリジェンス。 知識増幅。 こちらからアクセスしてください。
• プラトンESG。 カーボン、 クリーンテック、 エネルギー、 環境、 太陽、 廃棄物管理。 こちらからアクセスしてください。
• プラトンヘルス。 バイオテクノロジーと臨床試験のインテリジェンス。 こちらからアクセスしてください。
• 情報源： https://blog.roblox.com/2024/01/inside-the-tech-solving-for-safety-in-immersive-voice-communication/