ইনসাইড দ্য টেক - ইমারসিভ ভয়েস কমিউনিকেশনে নিরাপত্তার জন্য সমাধান করা - রোবলক্স ব্লগ

ইনসাইড দ্য টেক একটি ব্লগ সিরিজ যা আমাদের সাথে রয়েছে টেক টক পডকাস্ট. পডকাস্টের 20 এপিসোড, দ্য ইভোলিউশন অফ রোবলক্স অ্যাভাটারস-এ, রোবলক্সের সিইও ডেভিড বাসজুকি ইঞ্জিনিয়ারিং এর সিনিয়র ডিরেক্টর কিরণ ভাট, প্রোডাক্টের সিনিয়র ডিরেক্টর মহেশ রামাসুব্রমানিয়ান এবং প্রিন্সিপাল প্রোডাক্ট ম্যানেজার এফি গোয়েনাওয়ানের সাথে কথা বলেছেন। নিমজ্জিত যোগাযোগের ভবিষ্যত অবতার এবং প্রযুক্তিগত চ্যালেঞ্জের মাধ্যমে আমরা এটিকে শক্তিশালী করতে সমাধান করছি। Inside the Tech-এর এই সংস্করণে, আমরা সেই প্রযুক্তিগত চ্যালেঞ্জগুলির মধ্যে একটি, নিমজ্জিত ভয়েস কমিউনিকেশনে নিরাপত্তা এবং কীভাবে টিমের কাজ সবার জন্য একটি নিরাপদ এবং নাগরিক ডিজিটাল পরিবেশ গড়ে তুলতে সাহায্য করছে সে সম্পর্কে আরও জানতে সিনিয়র ইঞ্জিনিয়ারিং ম্যানেজার অ্যান্ড্রু পোর্টনারের সাথে কথা বলেছি। আমাদের প্ল্যাটফর্ম।

আপনার দল সবচেয়ে বড় প্রযুক্তিগত চ্যালেঞ্জগুলি কী কী?

আমরা আমাদের ব্যবহারকারীদের জন্য একটি নিরাপদ এবং ইতিবাচক অভিজ্ঞতা বজায় রাখাকে অগ্রাধিকার দিই। নিরাপত্তা এবং সভ্যতা আমাদের জন্য সবসময় মনের শীর্ষে থাকে, কিন্তু বাস্তব সময়ে এটি পরিচালনা করা একটি বড় প্রযুক্তিগত চ্যালেঞ্জ হতে পারে। যখনই কোনও সমস্যা হয়, আমরা এটি পর্যালোচনা করতে এবং রিয়েল টাইমে পদক্ষেপ নিতে সক্ষম হতে চাই, কিন্তু আমাদের স্কেল অনুযায়ী এটি চ্যালেঞ্জিং। এই স্কেলটি কার্যকরভাবে পরিচালনা করার জন্য, আমাদের স্বয়ংক্রিয় নিরাপত্তা ব্যবস্থার সুবিধা নিতে হবে। 

আরেকটি প্রযুক্তিগত চ্যালেঞ্জ যা আমরা মনোযোগ দিয়েছি তা হল সংযমের জন্য আমাদের নিরাপত্তা ব্যবস্থার যথার্থতা। নীতি লঙ্ঘন মোকাবেলা করতে এবং বাস্তব সময়ে সঠিক প্রতিক্রিয়া প্রদানের জন্য দুটি সংযম পদ্ধতি রয়েছে: প্রতিক্রিয়াশীল এবং সক্রিয় সংযম। প্রতিক্রিয়াশীল মডারেশনের জন্য, আমরা বিভিন্ন ধরনের নীতি লঙ্ঘন নির্ভুলভাবে শনাক্ত করতে মেশিন লার্নিং (ML) মডেল তৈরি করছি, যা প্ল্যাটফর্মে থাকা লোকেদের রিপোর্টে সাড়া দিয়ে কাজ করে। সক্রিয়ভাবে, আমরা সম্ভাবনার রিয়েল-টাইম সনাক্তকরণে কাজ করছি আমাদের নীতি লঙ্ঘন করে এমন সামগ্রী, ব্যবহারকারীদের তাদের আচরণ সম্পর্কে শিক্ষিত করা। কথ্য শব্দ বোঝা এবং অডিও গুণমান উন্নত করা একটি জটিল প্রক্রিয়া। আমরা ইতিমধ্যে অগ্রগতি দেখছি, কিন্তু আমাদের চূড়ান্ত লক্ষ্য হল একটি অত্যন্ত সুনির্দিষ্ট মডেল যা বাস্তব সময়ে নীতি-লঙ্ঘনকারী আচরণ সনাক্ত করতে পারে। 

এই প্রযুক্তিগত চ্যালেঞ্জগুলি মোকাবেলা করার জন্য আমরা যে কিছু উদ্ভাবনী পদ্ধতি এবং সমাধান ব্যবহার করছি?

আমরা একটি এন্ড-টু-এন্ড এমএল মডেল তৈরি করেছি যা অডিও ডেটা বিশ্লেষণ করতে পারে এবং নীতি লঙ্ঘনের ধরনের উপর ভিত্তি করে একটি আস্থার স্তর প্রদান করে (যেমন এই গুন্ডামি, অশ্লীলতা ইত্যাদির সম্ভাবনা কতটা)। এই মডেলটি নির্দিষ্ট প্রতিবেদন স্বয়ংক্রিয়ভাবে বন্ধ করার আমাদের ক্ষমতাকে উল্লেখযোগ্যভাবে উন্নত করেছে। আমরা পদক্ষেপ নিই যখন আমাদের মডেল আত্মবিশ্বাসী হয় এবং নিশ্চিত হতে পারি যে এটি মানুষের চেয়ে এগিয়ে। লঞ্চ করার মাত্র কয়েক মাসের মধ্যে, আমরা এই মডেলের মাধ্যমে প্রায় সমস্ত ইংরেজি ভয়েস অপব্যবহারের প্রতিবেদনগুলিকে সংযত করতে সক্ষম হয়েছি। আমরা এই মডেলগুলি ইন-হাউস তৈরি করেছি এবং এটি অনেকগুলি ওপেন সোর্স প্রযুক্তি এবং এর পিছনে প্রযুক্তি তৈরি করার জন্য আমাদের নিজস্ব কাজের মধ্যে সহযোগিতার একটি প্রমাণ। 

রিয়েল টাইমে কী উপযুক্ত তা নির্ধারণ করা বেশ জটিল বলে মনে হয়। ওটা কিভাবে কাজ করে?

সিস্টেমটিকে প্রাসঙ্গিকভাবে সচেতন করার জন্য অনেক চিন্তাভাবনা করা হয়েছে। আমরা পদক্ষেপ নেওয়ার আগে সময়ের সাথে সাথে নিদর্শনগুলিও দেখি যাতে আমরা নিশ্চিত হতে পারি যে আমাদের ক্রিয়াগুলি ন্যায়সঙ্গত। আমাদের নীতিগুলি একজন ব্যক্তির বয়সের উপর নির্ভর করে, সে পাবলিক স্পেস বা ব্যক্তিগত চ্যাটে এবং অন্যান্য অনেক কারণের উপর নির্ভর করে। আমরা রিয়েল টাইমে সভ্যতার প্রচারের নতুন উপায় অন্বেষণ করছি এবং ML এর কেন্দ্রবিন্দুতে রয়েছে। ব্যবহারকারীদের আমাদের নীতিগুলি মনে করিয়ে দিতে আমরা সম্প্রতি স্বয়ংক্রিয় পুশ বিজ্ঞপ্তি (বা "নাজ") চালু করেছি৷ একজন ব্যক্তির উদ্দেশ্য আরও ভালভাবে বোঝার জন্য এবং কটাক্ষ বা কৌতুকের মতো জিনিসগুলিকে আলাদা করার জন্য আমরা ভয়েসের সুরের মতো অন্যান্য বিষয়গুলিও খতিয়ে দেখছি। শেষ অবধি, আমরা একটি বহুভাষিক মডেলও তৈরি করছি কারণ কিছু লোক একাধিক ভাষায় কথা বলে বা এমনকি ভাষার মধ্য-বাক্য পরিবর্তন করে। এর যেকোনো একটি সম্ভব হওয়ার জন্য, আমাদের একটি সঠিক মডেল থাকতে হবে। 

বর্তমানে, আমরা হয়রানি, বৈষম্য এবং অশ্লীলতার মতো সবচেয়ে বিশিষ্ট ধরনের অপব্যবহারের সমাধানের দিকে মনোনিবেশ করছি। এই অপব্যবহার রিপোর্ট সংখ্যাগরিষ্ঠ করা. আমাদের লক্ষ্য হল এই ক্ষেত্রগুলিতে একটি উল্লেখযোগ্য প্রভাব ফেলতে এবং একটি নাগরিক অনলাইন কথোপকথনের প্রচার এবং রক্ষণাবেক্ষণের জন্য শিল্পের নিয়মগুলি সেট করা। আমরা রিয়েল টাইমে ML ব্যবহার করার সম্ভাবনা নিয়ে উত্তেজিত, কারণ এটি আমাদের কার্যকরভাবে প্রত্যেকের জন্য একটি নিরাপদ এবং নাগরিক অভিজ্ঞতা তৈরি করতে সক্ষম করে। 

Roblox-এ আমরা যে চ্যালেঞ্জগুলি সমাধান করছি তা কীভাবে অনন্য? আমরা প্রথমে কি সমাধান করতে পারি?

আমাদের স্থানিক ভয়েসের সাথে চ্যাট করুন প্রযুক্তি বাস্তব-বিশ্ব যোগাযোগের অনুকরণ করে আরও নিমগ্ন অভিজ্ঞতা তৈরি করে। উদাহরণস্বরূপ, আমি যদি কারো বাম দিকে দাঁড়িয়ে থাকি, তারা আমাকে তাদের বাম কানে শুনতে পাবে। বাস্তব জগতে কীভাবে যোগাযোগ কাজ করে তার জন্য আমরা একটি এনালগ তৈরি করছি এবং এটি একটি চ্যালেঞ্জ যা আমরা প্রথমে সমাধান করার অবস্থানে আছি। 

নিজে একজন গেমার হিসেবে, আমি অনলাইন গেমিং-এ অনেক হয়রানি এবং গুন্ডামি দেখেছি। এটি এমন একটি সমস্যা যা ব্যবহারকারীর নাম প্রকাশ না করার কারণে এবং ফলাফলের অভাবের কারণে প্রায়শই চেক করা যায় না। যাইহোক, আমরা যে প্রযুক্তিগত চ্যালেঞ্জগুলি মোকাবেলা করছি তা অন্যান্য প্ল্যাটফর্মগুলি কয়েকটি ক্ষেত্রের মুখোমুখি হওয়ার চেয়ে অনন্য। কিছু গেমিং প্ল্যাটফর্মে, মিথস্ক্রিয়া সতীর্থদের মধ্যে সীমাবদ্ধ। Roblox একটি সামাজিক পরিবেশে hangout করার বিভিন্ন উপায় অফার করে যা বাস্তব জীবনকে আরও ঘনিষ্ঠভাবে অনুকরণ করে। ML এবং রিয়েল-টাইম সিগন্যাল প্রসেসিংয়ের অগ্রগতির সাথে, আমরা কার্যকরভাবে আপত্তিজনক আচরণ সনাক্ত করতে এবং মোকাবেলা করতে সক্ষম হয়েছি যার অর্থ আমরা কেবল একটি বাস্তবসম্মত পরিবেশই নই, এমন একটি যেখানে প্রত্যেকে অন্যদের সাথে যোগাযোগ এবং সংযোগ করতে নিরাপদ বোধ করে। আমাদের প্রযুক্তির সংমিশ্রণ, আমাদের নিমজ্জিত প্ল্যাটফর্ম, এবং আমাদের নীতিগুলি সম্পর্কে ব্যবহারকারীদের শিক্ষিত করার প্রতিশ্রুতি আমাদের এই চ্যালেঞ্জগুলি মোকাবেলা করার জন্য একটি অবস্থানে রাখে৷

আপনি এই প্রযুক্তিগত কাজ থেকে শিখেছি যে কিছু মূল জিনিস কি কি?

আমি মনে করি আমি একটি উল্লেখযোগ্য চুক্তি শিখেছি। আমি একজন এমএল ইঞ্জিনিয়ার নই। আমি বেশিরভাগই গেমিংয়ের সামনের প্রান্তে কাজ করেছি, তাই এই মডেলগুলি কীভাবে কাজ করে সে সম্পর্কে আমার চেয়ে আরও গভীরে যেতে সক্ষম হচ্ছে। আমি আশা করি যে আমরা সভ্যতার প্রচারের জন্য যে পদক্ষেপগুলি নিচ্ছি তা অনলাইন সম্প্রদায়ের মধ্যে সহানুভূতির একটি স্তরে অনুবাদ করে যার অভাব রয়েছে।  

একটি শেষ শিক্ষা হল যে সবকিছুই আপনার দেওয়া প্রশিক্ষণের ডেটার উপর নির্ভর করে৷ এবং ডেটা সঠিক হওয়ার জন্য, মানুষকে নির্দিষ্ট নীতি-লঙ্ঘনকারী আচরণগুলিকে শ্রেণীবদ্ধ করতে ব্যবহৃত লেবেলের সাথে একমত হতে হবে৷ মানসম্পন্ন ডেটা সম্পর্কে প্রশিক্ষণ দেওয়া সত্যিই গুরুত্বপূর্ণ যা সবাই একমত হতে পারে। এটি সমাধান করা সত্যিই কঠিন সমস্যা। আপনি এমন এলাকাগুলি দেখতে শুরু করেন যেখানে ML অন্য সব কিছুর থেকে অনেক এগিয়ে, এবং তারপরে অন্যান্য এলাকা যেখানে এটি এখনও প্রাথমিক পর্যায়ে রয়েছে। এখনও অনেক ক্ষেত্র রয়েছে যেখানে ML এখনও বৃদ্ধি পাচ্ছে, তাই এর বর্তমান সীমা সম্পর্কে সচেতন হওয়া গুরুত্বপূর্ণ। 

কোন Roblox মান আপনার দল সবচেয়ে সারিবদ্ধ?

সম্প্রদায়কে সম্মান করা এই প্রক্রিয়া জুড়ে আমাদের পথনির্দেশক মূল্য। প্রথমত, আমাদের প্ল্যাটফর্মে সভ্যতার উন্নতি এবং নীতি লঙ্ঘন কমানোর দিকে মনোযোগ দিতে হবে। এটি সামগ্রিক ব্যবহারকারীর অভিজ্ঞতার উপর একটি উল্লেখযোগ্য প্রভাব ফেলে। দ্বিতীয়ত, আমরা এই নতুন বৈশিষ্ট্যগুলি কীভাবে রোল আউট করব তা আমাদের অবশ্যই সাবধানে বিবেচনা করতে হবে। আমাদের মডেলের মিথ্যা ইতিবাচক (যেমন ভুলভাবে কিছুকে অপব্যবহার হিসাবে চিহ্নিত করা) সম্পর্কে সচেতন হতে হবে এবং ব্যবহারকারীদের ভুলভাবে শাস্তি দেওয়া এড়াতে হবে। আমাদের মডেলগুলির কার্যকারিতা এবং ব্যবহারকারীর ব্যস্ততার উপর তাদের প্রভাব পর্যবেক্ষণ করা অত্যন্ত গুরুত্বপূর্ণ৷ 

Roblox এবং আপনার দল কোথায় যাচ্ছে সে সম্পর্কে আপনাকে কোনটি সবচেয়ে বেশি উত্তেজিত করে?

আমরা পাবলিক ভয়েস কমিউনিকেশনের উন্নতিতে উল্লেখযোগ্য অগ্রগতি করেছি, কিন্তু এখনও অনেক কিছু করার বাকি আছে। ব্যক্তিগত যোগাযোগ অন্বেষণ একটি উত্তেজনাপূর্ণ এলাকা. আমি মনে করি ব্যক্তিগত যোগাযোগের উন্নতি করার জন্য, ব্যবহারকারীদের কাছের বন্ধুদের কাছে নিজেকে প্রকাশ করার অনুমতি দেওয়ার, অভিজ্ঞতা জুড়ে ভয়েস কল করার জন্য বা যখন তারা তাদের বন্ধুদের সাথে ইন্টারঅ্যাক্ট করে তখন একটি অভিজ্ঞতার সময় একটি বিশাল সুযোগ রয়েছে। আমি মনে করি ব্যবহারকারীদের স্ব-সংগঠিত করতে, সম্প্রদায়গুলিতে যোগদান করতে, বিষয়বস্তু ভাগ করতে এবং ধারণাগুলি ভাগ করতে সক্ষম করার জন্য আরও ভাল সরঞ্জামগুলির সাথে এই সম্প্রদায়গুলিকে উত্সাহিত করার একটি সুযোগ রয়েছে৷

আমরা যখন বাড়তে থাকি, তখন এই সম্প্রসারিত সম্প্রদায়গুলিকে সমর্থন করার জন্য আমরা কীভাবে আমাদের চ্যাট প্রযুক্তিকে স্কেল করব? আমরা যা করতে পারি তার অনেক কিছুর উপর আমরা শুধু স্ক্র্যাচ করছি, এবং আমি মনে করি শিল্প জুড়ে অনলাইন যোগাযোগ এবং সহযোগিতার সভ্যতাকে এমনভাবে উন্নত করার সুযোগ রয়েছে যা আগে করা হয়নি। সঠিক প্রযুক্তি এবং ML ক্ষমতা সহ, আমরা নাগরিক অনলাইন যোগাযোগের ভবিষ্যত গঠনের জন্য একটি অনন্য অবস্থানে আছি।

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://blog.roblox.com/2024/01/inside-the-tech-solving-for-safety-in-immersive-voice-communication/