সামাজিক নেটওয়ার্ক থেকে শুরু করে ইকমার্স প্ল্যাটফর্ম পর্যন্ত বাস্তব-বিশ্বের অ্যাপ্লিকেশনগুলিতে সুপারিশ সিস্টেমগুলি সর্বাধিক গৃহীত মেশিন লার্নিং (ML) প্রযুক্তিগুলির মধ্যে একটি৷ অনেক অনলাইন সিস্টেমের ব্যবহারকারীরা নতুন বন্ধুত্ব তৈরি করতে, প্রস্তাবিত সঙ্গীত তালিকা অনুযায়ী নতুন সঙ্গীত আবিষ্কার করতে, বা এমনকি প্রস্তাবিত পণ্যের উপর ভিত্তি করে ইকমার্স কেনাকাটার সিদ্ধান্ত নিতে সুপারিশ সিস্টেমের উপর নির্ভর করে। সামাজিক নেটওয়ার্কগুলিতে, একটি সাধারণ ব্যবহারের ক্ষেত্রে ব্যবহারকারীদের অন্যান্য সংযোগের উপর ভিত্তি করে ব্যবহারকারীকে নতুন বন্ধুদের সুপারিশ করা। সাধারণ বন্ধুদের সাথে ব্যবহারকারীরা সম্ভবত একে অপরকে চেনেন। অতএব, যদি তারা এখনও সংযুক্ত না থাকে তবে প্রস্তাবনা দেওয়ার জন্য তাদের একটি উচ্চতর স্কোর থাকা উচিত।
সামাজিক নেটওয়ার্কগুলি স্বাভাবিকভাবেই একটি গ্রাফে প্রকাশ করা যেতে পারে, যেখানে নোডগুলি মানুষের প্রতিনিধিত্ব করে এবং মানুষের মধ্যে সংযোগগুলি, যেমন বন্ধুত্ব বা সহকর্মীদের, প্রান্ত দ্বারা প্রতিনিধিত্ব করা হয়। নিম্নলিখিত এই ধরনের একটি সামাজিক নেটওয়ার্ক চিত্রিত. আসুন কল্পনা করি যে আমাদের সদস্যদের (নোড) বিল, টেরি, হেনরি, গ্যারি এবং অ্যালিস্টারের সাথে একটি সামাজিক নেটওয়ার্ক রয়েছে। তাদের সম্পর্কগুলি একটি লিঙ্ক (প্রান্ত) দ্বারা প্রতিনিধিত্ব করা হয় এবং প্রতিটি ব্যক্তির আগ্রহ যেমন খেলাধুলা, শিল্পকলা, গেমস এবং কমিকস, নোড বৈশিষ্ট্য দ্বারা প্রতিনিধিত্ব করা হয়।
এখানে উদ্দেশ্য হল সদস্যদের মধ্যে সম্ভাব্য অনুপস্থিত লিঙ্ক আছে কিনা তা অনুমান করা। উদাহরণস্বরূপ, আমরা কি হেনরি এবং টেরির মধ্যে সংযোগের সুপারিশ করব? গ্রাফের দিকে তাকালে, আমরা দেখতে পাচ্ছি যে তাদের দুজন পারস্পরিক বন্ধু আছে, গ্যারি এবং অ্যালিস্টার। অতএব, হেনরি এবং টেরি হয় একে অপরকে ইতিমধ্যেই চিনতেন বা শীঘ্রই একে অপরকে জানতে পারেন এমন একটি ভাল সুযোগ রয়েছে। হেনরি এবং বিল সম্পর্কে কিভাবে? তাদের কোন পারস্পরিক বন্ধু নেই, তবে তাদের বন্ধুদের সংযোগের মাধ্যমে তাদের কিছু দুর্বল সংযোগ রয়েছে। এছাড়াও, তাদের উভয়েরই শিল্পকলা, কমিকস এবং গেমগুলিতে একই রকম আগ্রহ রয়েছে। আমরা এই সংযোগ প্রচার করা উচিত? এই সমস্ত প্রশ্ন এবং অন্তর্দৃষ্টি সামাজিক নেটওয়ার্ক সুপারিশ সিস্টেমের মূল যুক্তি।
এটি করার একটি সম্ভাব্য উপায় হল গ্রাফ অন্বেষণের উপর ভিত্তি করে সম্পর্কের সুপারিশ করা। গ্রাফ ক্যোয়ারী ভাষায়, যেমন অ্যাপাচি টিঙ্কারপপ গ্রেমলিন, নিয়ম সেটের বাস্তবায়ন যেমন সাধারণ বন্ধু গণনা, তুলনামূলকভাবে সহজ, এবং এটি হেনরি এবং টেরির মধ্যে লিঙ্ক নির্ধারণ করতে ব্যবহার করা যেতে পারে। যাইহোক, এই নিয়ম সেটগুলি খুব জটিল হবে যখন আমরা অন্যান্য বৈশিষ্ট্য যেমন নোড বৈশিষ্ট্য, সংযোগ শক্তি ইত্যাদির জন্য অ্যাকাউন্ট চাই। আসুন হেনরি এবং বিলের মধ্যে লিঙ্ক নির্ধারণের জন্য একটি নিয়ম সেট কল্পনা করি। এই নিয়ম সেটটি অবশ্যই তাদের সাধারণ স্বার্থ এবং গ্রাফে নির্দিষ্ট পাথের মাধ্যমে তাদের দুর্বল সংযোগগুলির জন্য অ্যাকাউন্ট করবে। দৃঢ়তা বাড়ানোর জন্য, শক্তিশালী সংযোগের পক্ষে এবং দুর্বলদের শাস্তি দেওয়ার জন্য আমাদের একটি দূরত্বের ফ্যাক্টর যোগ করতে হতে পারে। একইভাবে, আমরা সাধারণ স্বার্থের পক্ষে একটি ফ্যাক্টর চাই। শীঘ্রই, নিয়ম সেট যা জটিল লুকানো নিদর্শনগুলি প্রকাশ করতে পারে তা গণনা করা অসম্ভব হয়ে উঠবে।
ML প্রযুক্তি আমাদের অ্যালগরিদম শিখে লুকানো নিদর্শন আবিষ্কার করতে দেয়। একটি উদাহরণ হল XGBoost, যা শ্রেণীবিভাগ বা রিগ্রেশন কাজের জন্য ব্যাপকভাবে ব্যবহৃত হয়। যাইহোক, XGBoost-এর মতো অ্যালগরিদমগুলি একটি ট্যাবুলার ডেটা ফর্ম্যাটের উপর ভিত্তি করে একটি প্রচলিত ML পদ্ধতি ব্যবহার করে। এই পদ্ধতিগুলি গ্রাফ ডেটা স্ট্রাকচারের জন্য অপ্টিমাইজ করা হয় না এবং এই ডেটা প্যাটার্নগুলির সাথে মানিয়ে নিতে তাদের জটিল বৈশিষ্ট্য ইঞ্জিনিয়ারিং প্রয়োজন।
পূর্ববর্তী সামাজিক নেটওয়ার্ক উদাহরণে, গ্রাফ ইন্টারঅ্যাকশন তথ্য সুপারিশের সঠিকতা উন্নত করার জন্য গুরুত্বপূর্ণ। গ্রাফ নিউরাল নেটওয়ার্ক (GNN) হল একটি গভীর শিক্ষা (DL) ফ্রেমওয়ার্ক যা প্রান্ত-স্তর, নোড-স্তর, বা গ্রাফ-স্তরের পূর্বাভাস কার্য সম্পাদনের জন্য গ্রাফ ডেটাতে প্রয়োগ করা যেতে পারে। গ্রাফ উপস্থাপনা এবং অন্তর্নিহিত নিদর্শন শেখার সময় GNN পৃথক নোড বৈশিষ্ট্যগুলির পাশাপাশি গ্রাফ কাঠামোর তথ্য লাভ করতে পারে। অতএব, সাম্প্রতিক বছরগুলিতে, GNN-ভিত্তিক পদ্ধতিগুলি অনেক সুপারিশকারী সিস্টেমের মানদণ্ডে নতুন মান নির্ধারণ করেছে। সাম্প্রতিক গবেষণাপত্রে আরও বিস্তারিত তথ্য দেখুন: গ্রাফ নিউরাল নেটওয়ার্কের উপর একটি ব্যাপক সমীক্ষা এবং গ্রাফ লার্নিং ভিত্তিক সুপারিশকারী সিস্টেম: একটি পর্যালোচনা.
নিম্নলিখিত এই ধরনের একটি ব্যবহার ক্ষেত্রে একটি বিখ্যাত উদাহরণ. Pinterest এ গবেষক ও প্রকৌশলীরা প্রশিক্ষণ নিয়েছেন ওয়েব-স্কেল সুপারিশকারী সিস্টেমের জন্য গ্রাফ কনভোলিউশনাল নিউরাল নেটওয়ার্কপিনসেজ নামে পরিচিত, তিন বিলিয়ন নোড পিন এবং বোর্ড এবং 18 বিলিয়ন প্রান্ত প্রতিনিধিত্ব করে। পিনসেজ উচ্চ-মানের এমবেডিং তৈরি করে যা পিনের প্রতিনিধিত্ব করে (অনলাইন সামগ্রীতে ভিজ্যুয়াল বুকমার্ক)। এগুলি ডাউনস্ট্রিম সুপারিশ কাজের একটি বিস্তৃত পরিসরের জন্য ব্যবহার করা যেতে পারে, যেমন বিষয়বস্তু আবিষ্কার এবং সুপারিশের জন্য শেখা এমবেডিং স্পেসের নিকটতম-প্রতিবেশী সন্ধান।
এই পোস্টে, আমরা আপনাকে একটি লিঙ্ক ভবিষ্যদ্বাণী সমস্যা হিসাবে কাস্ট করে সুপারিশ ব্যবহারের ক্ষেত্রে কীভাবে GNN ব্যবহার করতে হয় সে সম্পর্কে আপনাকে বলব। নেপচুন এমএল কীভাবে বাস্তবায়নকে সহজতর করতে পারে তাও আমরা ব্যাখ্যা করব। আমরাও প্রদান করব GitHub এ নমুনা কোড নেপচুন ML-এর সাথে আপনার প্রথম GNN-কে প্রশিক্ষণ দিতে এবং লিঙ্কের পূর্বাভাস কার্যের মাধ্যমে ডেমো গ্রাফে সুপারিশ অনুমান করতে।
গ্রাফ নিউরাল নেটওয়ার্কের সাথে লিঙ্ক পূর্বাভাস
আগের সামাজিক নেটওয়ার্কের উদাহরণ বিবেচনা করে, আমরা হেনরিকে নতুন বন্ধুদের সুপারিশ করতে চাই। টেরি এবং বিল উভয়ই ভাল প্রার্থী হবে। হেনরির সাথে টেরির আরও সাধারণ বন্ধু (গ্যারি, অ্যালিস্টেয়ার) আছে কিন্তু সাধারণ আগ্রহ নেই। যদিও বিল হেনরির সাথে সাধারণ আগ্রহ (কলা, কমিকস, গেমস) ভাগ করে নেয়, কিন্তু কোনো সাধারণ বন্ধু নেই। কোনটি একটি ভাল সুপারিশ হবে? একটি লিঙ্ক ভবিষ্যদ্বাণী সমস্যা হিসাবে ফ্রেম করা হলে, কাজটি দুটি নোডের মধ্যে যে কোনও সম্ভাব্য লিঙ্কের জন্য একটি স্কোর বরাদ্দ করা। লিঙ্ক স্কোর যত বেশি হবে, এই সুপারিশটি একত্রিত হওয়ার সম্ভাবনা তত বেশি। ইতিমধ্যে গ্রাফে উপস্থিত লিঙ্ক কাঠামো শেখার মাধ্যমে, একটি লিঙ্ক ভবিষ্যদ্বাণী মডেল নতুন লিঙ্কের পূর্বাভাসগুলিকে সাধারণীকরণ করতে পারে যা গ্রাফটিকে 'সম্পূর্ণ' করে।
ফাংশনের পরামিতি f
যা অনুমান করে যে প্রশিক্ষণ পর্বের সময় লিঙ্ক স্কোর শেখা হয়। যেহেতু ফাংশন f
গ্রাফের যেকোনো দুটি নোডের জন্য একটি ভবিষ্যদ্বাণী করে, নোডের সাথে যুক্ত বৈশিষ্ট্য ভেক্টরগুলি শেখার প্রক্রিয়ার জন্য অপরিহার্য। হেনরি এবং বিলের মধ্যে লিঙ্ক স্কোর ভবিষ্যদ্বাণী করতে, আমাদের কাছে কাঁচা ডেটা বৈশিষ্ট্যের একটি সেট রয়েছে (আর্টস, কমিকস, গেমস) যা হেনরি এবং বিলকে উপস্থাপন করতে পারে। নোড এম্বেডিং নামে পরিচিত নতুন উপস্থাপনা তৈরি করতে একটি GNN নেটওয়ার্ক ব্যবহার করে আমরা গ্রাফের সংযোগগুলির সাথে এটিকে রূপান্তরিত করি। আমরা প্রশিক্ষণ প্রক্রিয়ার সময় শেখা যায় এমন একটি এমবেডিং লুকআপ টেবিল থেকে ভেক্টরের সাথে প্রাথমিক কাঁচা বৈশিষ্ট্যগুলিকে সম্পূরক বা প্রতিস্থাপন করতে পারি। আদর্শভাবে, হেনরি এবং বিলের জন্য এমবেড করা বৈশিষ্ট্যগুলি তাদের আগ্রহের পাশাপাশি গ্রাফ থেকে তাদের টপোলজিকাল তথ্যের প্রতিনিধিত্ব করে।
কিভাবে GNN কাজ করে
একটি জিএনএন প্রাথমিক নোড বৈশিষ্ট্যগুলিকে নোড এম্বেডিং নামক একটি কৌশল ব্যবহার করে রূপান্তরিত করে বার্তা পাস. বার্তা পাস করার প্রক্রিয়াটি নিম্নলিখিত চিত্রে চিত্রিত করা হয়েছে। শুরুতে, নোডের বৈশিষ্ট্য বা বৈশিষ্ট্যগুলিকে সংখ্যাসূচক বৈশিষ্ট্যে রূপান্তরিত করা হয়। আমাদের ক্ষেত্রে, আমরা শ্রেণীবদ্ধ বৈশিষ্ট্যগুলির এক-হট এনকোডিং করি (হেনরির আগ্রহ: আর্টস, কমিকস, গেমস)। তারপর, GNN-এর প্রথম স্তরটি সমস্ত প্রতিবেশীদের (গ্যারি এবং অ্যালিস্টেয়ার) কাঁচা বৈশিষ্ট্যগুলিকে (কালোতে) একত্রিত করে একটি নতুন বৈশিষ্ট্যের সেট তৈরি করে (হলুদে)। একটি সাধারণ পদ্ধতি হল প্রতিবেশী সমস্ত বৈশিষ্ট্যের রৈখিক রূপান্তর, তারপর একটি স্বাভাবিক যোগফলের মাধ্যমে তাদের একত্রিত করুন এবং একটি নতুন ভেক্টর সেট তৈরি করতে একটি নন-লিনিয়ার অ্যাক্টিভেশন ফাংশন, যেমন ReLU-তে ফলাফলগুলি পাস করুন। নিচের চিত্রটি নোডের জন্য বার্তা পাসিং কীভাবে কাজ করে তা ব্যাখ্যা করে হেনরি. H, GNN বার্তা পাসিং অ্যালগরিদম, সমস্ত গ্রাফ নোডের জন্য উপস্থাপনা গণনা করবে। এগুলি পরবর্তীতে দ্বিতীয় স্তরের ইনপুট বৈশিষ্ট্য হিসাবে ব্যবহৃত হয়।
একটি GNN এর দ্বিতীয় স্তর একই প্রক্রিয়া পুনরাবৃত্তি করে। এটি ইনপুট হিসাবে প্রথম স্তর থেকে পূর্বে গণনা করা বৈশিষ্ট্য (হলুদ রঙে) নেয়, গ্যারি এবং অ্যালিস্টারের প্রতিবেশীদের নতুন এম্বেড করা বৈশিষ্ট্যগুলিকে একত্রিত করে এবং হেনরির জন্য (কমলা রঙে) দ্বিতীয় স্তর বৈশিষ্ট্য ভেক্টর তৈরি করে। আপনি দেখতে পাচ্ছেন, বার্তা পাস করার পদ্ধতির পুনরাবৃত্তি করে, আমরা 2-হপ প্রতিবেশীদের কাছে বৈশিষ্ট্য একত্রিত করেছি। আমাদের দৃষ্টান্তে, আমরা নিজেদেরকে 2-হপ প্রতিবেশীদের মধ্যে সীমাবদ্ধ রাখি, কিন্তু 3-হপ প্রতিবেশীদের মধ্যে প্রসারিত করা একইভাবে আরেকটি GNN স্তর যোগ করে করা যেতে পারে।
হেনরি এবং বিলের চূড়ান্ত এম্বেডিং (কমলা রঙে) স্কোর গণনার জন্য ব্যবহার করা হয়। প্রশিক্ষণ প্রক্রিয়া চলাকালীন, লিঙ্ক স্কোর 1 হিসাবে সংজ্ঞায়িত করা হয় যখন দুটি নোডের মধ্যে প্রান্তটি বিদ্যমান থাকে (পজিটিভ নমুনা), এবং 0 হিসাবে যখন দুটি নোডের মধ্যে প্রান্তটি বিদ্যমান থাকে না (নেতিবাচক নমুনা)। তারপরে, প্রকৃত স্কোর এবং পূর্বাভাসের মধ্যে ত্রুটি বা ক্ষতি f(e1,e2)
ওজন সামঞ্জস্য করার জন্য পূর্ববর্তী স্তরগুলিতে পুনরায় প্রচার করা হয়। প্রশিক্ষণ শেষ হয়ে গেলে, আমরা আমাদের ফাংশনের সাথে তাদের লিঙ্ক স্কোর গণনা করতে প্রতিটি নোডের জন্য এমবেডেড বৈশিষ্ট্য ভেক্টরের উপর নির্ভর করতে পারি f
.
এই উদাহরণে, আমরা a-তে শেখার কাজটি সরলীকৃত করেছি সমজাতীয় গ্রাফ, যেখানে সমস্ত নোড এবং প্রান্ত একই ধরণের। উদাহরণস্বরূপ, গ্রাফের সমস্ত নোড হল "মানুষ" টাইপ, এবং সমস্ত প্রান্তগুলি হল "ফ্রেন্ডস উইথ" টাইপ। যাইহোক, শেখার অ্যালগরিদম বিভিন্ন নোড এবং প্রান্তের ধরন সহ ভিন্ন ভিন্ন গ্রাফগুলিকে সমর্থন করে। একই ধরনের ইন্টারঅ্যাকশন এবং আগ্রহ শেয়ার করে এমন বিভিন্ন ব্যবহারকারীদের কাছে পণ্যের সুপারিশ করার জন্য আমরা আগের ব্যবহারের ক্ষেত্রে প্রসারিত করতে পারি। এই গবেষণাপত্রে আরও বিস্তারিত দেখুন: গ্রাফ কনভোলিউশনাল নেটওয়ার্কের সাথে রিলেশনাল ডেটা মডেলিং.
AWS re:Invent 2020 এ, আমরা প্রবর্তন করেছি আমাজন নেপচুন এমএল, যা আমাদের গ্রাহকদের গভীর ML দক্ষতা ছাড়াই গ্রাফ ডেটার উপর ML মডেল প্রশিক্ষণ দিতে দেয়৷ এই উদাহরণে, নেপচুন এমএল-এর সাহায্যে, আমরা আপনাকে দেখাব কীভাবে গ্রাফ ডেটাতে আপনার নিজস্ব সুপারিশকারী সিস্টেম তৈরি করতে হয়।
Amazon Neptune ML এর সাথে আপনার গ্রাফ কনভোলিউশন নেটওয়ার্ককে প্রশিক্ষণ দিন
নেপচুন এমএল আপনার গ্রাফ ডেটাতে স্বয়ংক্রিয়ভাবে এমএল মডেল তৈরি, প্রশিক্ষণ এবং স্থাপন করতে গ্রাফ নিউরাল নেটওয়ার্ক প্রযুক্তি ব্যবহার করে। নেপচুন এমএল সাধারণ গ্রাফ পূর্বাভাস কার্যগুলিকে সমর্থন করে, যেমন নোড শ্রেণীবিভাগ এবং রিগ্রেশন, প্রান্ত শ্রেণীবিভাগ এবং রিগ্রেশন এবং লিঙ্ক পূর্বাভাস।
এটি দ্বারা চালিত হয়:
- আমাজন নেপচুন: একটি দ্রুত, নির্ভরযোগ্য, এবং সম্পূর্ণরূপে পরিচালিত গ্রাফ ডাটাবেস, যা কোটি কোটি সম্পর্ক সঞ্চয় করার জন্য এবং মিলিসেকেন্ড লেটেন্সি সহ গ্রাফটি অনুসন্ধানের জন্য অপ্টিমাইজ করা হয়েছে৷ আমাজন নেপচুন গ্রাফ অ্যাপ্লিকেশন তৈরির জন্য তিনটি ওপেন স্ট্যান্ডার্ড সমর্থন করে: Apache TinkerPop Gremlin, RDF SPARQL, এবং openCypher। এ আরও জানুন আমাজন নেপচুন বৈশিষ্ট্যের ওভারভিউ।
- আমাজন সেজমেকার: একটি সম্পূর্ণরূপে পরিচালিত পরিষেবা যা প্রতিটি বিকাশকারী এবং ডেটা বিজ্ঞানীকে দ্রুত ML মডেলগুলি তৈরি, প্রশিক্ষণ এবং স্থাপন করার ক্ষমতা প্রদান করে৷
- ডিপ গ্রাফ লাইব্রেরি (DGL): একটি ওপেন সোর্স, উচ্চ-কর্মক্ষমতা, এবং গ্রাফে DL-এর জন্য মাপযোগ্য পাইথন প্যাকেজ। এটি গ্রাফ নিউরাল নেটওয়ার্কের প্রশিক্ষণের জন্য দ্রুত এবং মেমরি-দক্ষ বার্তা পাস করার আদিম প্রদান করে। নেপচুন ML DGL ব্যবহার করে স্বয়ংক্রিয়ভাবে আপনার কাজের চাপের জন্য সেরা ML মডেল বেছে নিতে এবং প্রশিক্ষণ দেয়। এটি আপনাকে সপ্তাহের পরিবর্তে ঘন্টার মধ্যে গ্রাফ ডেটাতে এমএল-ভিত্তিক ভবিষ্যদ্বাণী করতে সক্ষম করে।
নেপচুন এমএল দিয়ে শুরু করার সবচেয়ে সহজ উপায় হল ব্যবহার করা AWS ক্লাউডফর্মেশন কুইকস্টার্ট টেমপ্লেট. টেমপ্লেটটি নেপচুন ডিবি ক্লাস্টার সহ প্রয়োজনীয় সমস্ত উপাদান ইনস্টল করে এবং নেপচুন ML-এর জন্য পূর্ব-জনসংখ্যাযুক্ত নোটবুক নমুনার সাথে নেটওয়ার্ক কনফিগারেশন, IAM ভূমিকা এবং সংশ্লিষ্ট সেজমেকার নোটবুক উদাহরণ সেট আপ করে।
নিচের চিত্রটি নেপচুন এমএল-এর জন্য একটি GNN-ভিত্তিক সুপারিশ ব্যবস্থাকে প্রশিক্ষণের জন্য বিভিন্ন পদক্ষেপের চিত্র তুলে ধরেছে। আসুন প্রতিটি ধাপে জুম ইন করুন এবং এর সাথে কী জড়িত তা অন্বেষণ করি:
-
ডেটা এক্সপোর্ট কনফিগারেশন
আমাদের নেপচুন এমএল প্রক্রিয়ার প্রথম ধাপ হল নেপচুন ক্লাস্টার থেকে গ্রাফ ডেটা রপ্তানি করা। ডেটা এক্সপোর্ট টাস্কের জন্য আমাদের অবশ্যই প্যারামিটার এবং মডেল কনফিগারেশন নির্দিষ্ট করতে হবে। আমরা সমস্ত কনফিগারেশন এবং প্রশংসার জন্য নেপচুন ওয়ার্কবেঞ্চ ব্যবহার করি। ওয়ার্কবেঞ্চ আমাদের আমাজন সেজমেকার দ্বারা হোস্ট করা জুপিটার নোটবুক ব্যবহার করে নেপচুন ডিবি ক্লাস্টারের সাথে কাজ করতে দেয়। এছাড়াও, এটি নোটবুকগুলিতে অনেকগুলি ম্যাজিক কমান্ড সরবরাহ করে যা প্রচুর সময় এবং প্রচেষ্টা বাঁচায়। এখানে রপ্তানি পরামিতি আমাদের উদাহরণ:
In export_params
, আমাদের অবশ্যই মৌলিক সেটআপ কনফিগার করতে হবে, যেমন নেপচুন ক্লাস্টার এবং আউটপুট অ্যামাজন সিম্পল স্টোরেজ সার্ভিস (S3) রপ্তানি করা ডেটা স্টোরেজের পথ। কনফিগারেশনে উল্লেখ করা হয়েছে additionalParams
সঞ্চালনের জন্য ML টাস্কের ধরন। এই উদাহরণে, লিঙ্কের পূর্বাভাস ঐচ্ছিকভাবে একটি নির্দিষ্ট প্রান্তের ধরন (ব্যবহারকারী-বন্ধু-ব্যবহারকারী) পূর্বাভাস দিতে ব্যবহৃত হয়। যদি কোন টার্গেট টাইপ নির্দিষ্ট করা না থাকে, তাহলে নেপচুন ML ধরে নেবে যে টাস্কটি হল Link Prediction। প্যারামিটারগুলি আমাদের গ্রাফে সংরক্ষিত ডেটা এবং এমএল মডেল কীভাবে সেই ডেটাকে ব্যাখ্যা করবে সে সম্পর্কে বিশদ বিবরণও নির্দিষ্ট করে (আমাদের নোড হিসাবে "ব্যবহারকারী" এবং নোড সম্পত্তি হিসাবে "আগ্রহগুলি" রয়েছে)।
এমএল বিল্ডিং প্রক্রিয়ার প্রতিটি ধাপ চালানোর জন্য, কেবল নেপচুন ওয়ার্কবেঞ্চ কমান্ড ব্যবহার করুন। দ্য নেপচুন ওয়ার্কবেঞ্চ একটি লাইন ম্যাজিক এবং একটি সেল ম্যাজিক রয়েছে যা এই পদক্ষেপগুলি পরিচালনা করতে আপনার অনেক সময় বাঁচাতে পারে। ডেটা এক্সপোর্ট চালানোর জন্য, নেপচুন ওয়ার্কবেঞ্চ কমান্ড ব্যবহার করুন: %neptune_ml export start
রপ্তানির কাজ শেষ হয়ে গেলে, আমরা নেপচুন গ্রাফটি CSV ফর্ম্যাটে রপ্তানি করব এবং একটি S3 বালতিতে সংরক্ষণ করব। ফাইল দুই ধরনের হবে: nodes.csv
এবং edges.csv
. নামের একটি ফাইল training-data-configuration.json
নেপচুন এমএল-এর মডেল প্রশিক্ষণের জন্য প্রয়োজনীয় কনফিগারেশনও তৈরি করা হবে।
দেখ নেপচুন ML এর জন্য নেপচুন থেকে ডেটা রপ্তানি করুন আরও তথ্যের জন্য.
-
তথ্য প্রপ্রোকাসিং
নেপচুন এমএল ডেটা-প্রসেসিং পদক্ষেপের অংশ হিসাবে বৈশিষ্ট্য নিষ্কাশন এবং এনকোডিং সম্পাদন করে। প্রাক-প্রক্রিয়াজাতকরণের সাধারণ প্রকারের মধ্যে রয়েছে: ওয়ান-হট এনকোডিংয়ের মাধ্যমে শ্রেণীগত বৈশিষ্ট্যগুলিকে এনকোড করা, সংখ্যাসূচক বৈশিষ্ট্যগুলিকে বকেটিং করা, বা স্ট্রিং সম্পত্তি বা অন্যান্য ফ্রি-ফর্ম টেক্সট সম্পত্তি মান এনকোড করতে word2vec ব্যবহার করা।
আমাদের উদাহরণে, আমরা কেবল "স্বার্থ" সম্পত্তি ব্যবহার করব। নেপচুন ML মানগুলিকে বহু-শ্রেণীগত হিসাবে এনকোড করে। যাইহোক, যদি একটি শ্রেণীগত মান জটিল হয় (প্রতি নোডে তিন শব্দের বেশি), তাহলে নেপচুন এমএল প্রপার্টি টাইপটিকে টেক্সট বলে অনুমান করে এবং text_word2vec এনকোডিং ব্যবহার করে।
ডেটা প্রিপ্রসেসিং চালানোর জন্য, নিম্নলিখিত নেপচুন নোটবুক ম্যাজিক কমান্ডটি ব্যবহার করুন: %neptune_ml dataprocessing start
এই ধাপের শেষে, মডেল প্রশিক্ষণ ধাপে ব্যবহারের জন্য রপ্তানিকৃত ডেটাসেট থেকে একটি DGL গ্রাফ তৈরি করা হয়। নেপচুন এমএল স্বয়ংক্রিয়ভাবে হাইপারপ্যারামিটার অপ্টিমাইজেশান টিউনিং কাজের সংজ্ঞায়িত সহ মডেলটিকে সুর করে training-data-configuration.json
. মডেলের হাইপারপ্যারামিটার, যেমন ব্যাচ-সাইজ, num-hidden, num-epochs, dropout, ইত্যাদি টিউন করতে আমরা এই ফাইলটি ডাউনলোড এবং পরিবর্তন করতে পারি। এখানে একটি নমুনা configuration.json ফাইল।
দেখ প্রশিক্ষণের জন্য নেপচুন থেকে রপ্তানিকৃত গ্রাফ ডেটা প্রক্রিয়াকরণ আরও তথ্যের জন্য.
-
মডেল প্রশিক্ষণ
পরবর্তী ধাপ হল GNN মডেলের স্বয়ংক্রিয় প্রশিক্ষণ। মডেল প্রশিক্ষণ দুটি পর্যায়ে সম্পন্ন করা হয়। প্রথম পর্যায়ে একটি মডেল প্রশিক্ষণ কৌশল তৈরি করতে সেজমেকার প্রসেসিং কাজ ব্যবহার করে। এটি একটি কনফিগারেশন সেট যা মডেল প্রশিক্ষণের জন্য কোন ধরনের মডেল এবং মডেল হাইপারপ্যারামিটার রেঞ্জ ব্যবহার করা হবে তা নির্দিষ্ট করে।
তারপর, একটি SageMaker হাইপারপ্যারামিটার টিউনিং কাজ চালু করা হবে। দ্য সেজমেকার হাইপারপ্যারামিটার টিউনিং অপ্টিমাইজেশান কাজ প্রক্রিয়াকৃত ডেটাতে একটি পূর্ব-নির্দিষ্ট সংখ্যক মডেল প্রশিক্ষণ কাজের ট্রায়াল চালায়, বিভিন্ন হাইপারপ্যারামিটার সমন্বয় চেষ্টা করে model-hpo-configuration.json
ফাইল, এবং আউটপুট Amazon S3 অবস্থানে প্রশিক্ষণ দ্বারা উত্পন্ন মডেল শিল্পকর্ম সংরক্ষণ করে।
প্রশিক্ষণ পদক্ষেপ শুরু করতে, আপনি ব্যবহার করতে পারেন %neptune_ml training start
কমান্ড।
সমস্ত প্রশিক্ষণের কাজ শেষ হয়ে গেলে, হাইপারপ্যারামিটার টিউনিং কাজটি সেরা পারফরম্যান্স মডেল থেকে শিল্পকর্মগুলিকে সংরক্ষণ করবে, যা অনুমানের জন্য ব্যবহার করা হবে।
প্রশিক্ষণের শেষে, নেপচুন এমএল সেজমেকারকে প্রশিক্ষিত মডেল, নোড এবং প্রান্তগুলির জন্য গণনা করা কাঁচা এমবেডিং এবং এমবেডিং এবং নোড সূচকগুলির মধ্যে ম্যাপিং তথ্য সংরক্ষণ করার নির্দেশ দেবে৷
দেখ নেপচুন এমএল ব্যবহার করে একটি মডেল প্রশিক্ষণ আরও তথ্যের জন্য.
-
অ্যামাজন সেজমেকারে একটি অনুমান শেষ পয়েন্ট তৈরি করুন
এখন যেহেতু গ্রাফ উপস্থাপনা শেখা হয়েছে, আমরা অনুমান অনুরোধগুলি সম্পাদন করতে একটি শেষবিন্দুর পিছনে শেখা মডেল স্থাপন করতে পারি। মডেল ইনপুট হবে সেই ব্যবহারকারী যার জন্য আমাদের বন্ধুদের সুপারিশ তৈরি করতে হবে, প্রান্তের ধরন সহ, এবং আউটপুট সেই ব্যবহারকারীর জন্য সম্ভাব্য প্রস্তাবিত বন্ধুদের তালিকা হবে।
SageMaker এন্ডপয়েন্ট উদাহরণে মডেলটি স্থাপন করতে, ব্যবহার করুন %neptune_ml endpoint create
কমান্ড।
-
গ্রেমলিন ব্যবহার করে এমএল মডেলটি জিজ্ঞাসা করুন
শেষ বিন্দু প্রস্তুত হলে, আমরা গ্রাফ অনুমান প্রশ্নগুলির জন্য এটি ব্যবহার করতে পারি। নেপচুন এমএল গ্রেমলিন বা SPARQL-এ গ্রাফ অনুমান প্রশ্ন সমর্থন করে। আমাদের উদাহরণে, আমরা এখন ব্যবহারকারী "হেনরি"-এ নেপচুন এমএল দিয়ে বন্ধুদের সুপারিশ পরীক্ষা করতে পারি। প্রান্ত অতিক্রম করার জন্য এটির প্রায় একই সিনট্যাক্স প্রয়োজন, এবং এটি FRIEND সংযোগের মাধ্যমে হেনরির সাথে সংযুক্ত অন্যান্য ব্যবহারকারীদের তালিকা করে।
Neptune#ml.prediction
নেপচুন ML ভবিষ্যদ্বাণী দ্বারা নির্ধারিত সংযোগ ফিরিয়ে দেয় যে মডেলটি ব্যবহার করে আমরা সামাজিক গ্রাফে প্রশিক্ষণ দিয়েছি। আমাদের প্রত্যাশার মতোই বিল ফেরত দেওয়া হয়েছে।
এখানে আরেকটি নমুনা ভবিষ্যতবাণী ক্যোয়ারী রয়েছে যা হেনরির সাথে সংযোগ করতে পারে এমন শীর্ষ আট ব্যবহারকারীর পূর্বাভাস দিতে ব্যবহৃত হয়:
ফলাফল শক্তিশালী সংযোগ থেকে দুর্বল, যেখানে লিঙ্ক র্যাঙ্ক করা হয় Henry — FRIEND — Colin and Henry — FRIEND — Terry
এছাড়াও প্রস্তাবিত হয়। এই প্রস্তাবটি গ্রাফ-ভিত্তিক এমএল-এর মাধ্যমে যেখানে গ্রাফে জটিল মিথস্ক্রিয়া নিদর্শনগুলি অন্বেষণ করা যেতে পারে।
দেখ নেপচুন এমএল-এ গ্রেমলিন ইনফারেন্স কোয়েরি আরও তথ্যের জন্য.
গ্রাফ ডেটা পরিবর্তিত হলে মডেল রূপান্তর বা পুনরায় প্রশিক্ষণ
আরেকটি প্রশ্ন আপনি জিজ্ঞাসা করতে পারেন: যদি আমার সামাজিক নেটওয়ার্ক পরিবর্তিত হয়, বা যদি আমি নতুন যুক্ত ব্যবহারকারীদের জন্য সুপারিশ করতে চাই? এই পরিস্থিতিতে, যেখানে আপনি ক্রমাগত গ্রাফ পরিবর্তন করছেন, আপনাকে নতুন গ্রাফ ডেটা সহ ML পূর্বাভাস আপডেট করতে হতে পারে। প্রশিক্ষণের পর উত্পন্ন মডেল শিল্পকর্ম সরাসরি প্রশিক্ষণ গ্রাফের সাথে সংযুক্ত করা হয়। এর মানে হল যে মূল প্রশিক্ষণ গ্রাফের সত্তাগুলি পরিবর্তন হয়ে গেলে অনুমান শেষ পয়েন্টটি অবশ্যই আপডেট করতে হবে।
যাইহোক, আপডেট করা গ্রাফে ভবিষ্যদ্বাণী করার জন্য আপনাকে পুরো মডেলটিকে পুনরায় প্রশিক্ষণ দেওয়ার দরকার নেই। একটি ইনক্রিমেন্টাল মডেল ইনফারেন্স ওয়ার্কফ্লো সহ, আপনাকে শুধুমাত্র নেপচুন ডিবি ডেটা রপ্তানি করতে হবে, একটি ইনক্রিমেন্টাল ডেটা প্রিপ্রসেসিং করতে হবে, একটি মডেল ব্যাচ ট্রান্সফর্ম কাজ চালাতে হবে এবং তারপর ইনফারেন্স এন্ডপয়েন্ট আপডেট করতে হবে। মডেল-ট্রান্সফর্ম ধাপটি প্রধান ওয়ার্কফ্লো থেকে প্রশিক্ষিত মডেল এবং ইনপুট হিসাবে বর্ধিত ডেটা প্রিপ্রসেসিং ধাপের ফলাফল গ্রহণ করে। তারপরে এটি অনুমানের জন্য ব্যবহার করার জন্য একটি নতুন মডেল আর্টিফ্যাক্ট আউটপুট করে। এই নতুন মডেলের আর্টিফ্যাক্টটি আপ-টু-ডেট গ্রাফ ডেটা থেকে তৈরি করা হয়েছে।
এখানে একটি বিশেষ ফোকাস হল মডেল-ট্রান্সফর্ম স্টেপ কমান্ডের জন্য। এটি গ্রাফ ডেটাতে মডেল আর্টিফ্যাক্টগুলি গণনা করতে পারে যা মডেল প্রশিক্ষণের জন্য ব্যবহৃত হয়নি। নোড এমবেডিংগুলি পুনরায় গণনা করা হয় এবং যেকোন বিদ্যমান নোড এম্বেডিং ওভাররাইড করা হয়। নেপচুন এমএল পূর্ববর্তী প্রশিক্ষিত মডেল থেকে শেখা GNN এনকোডারকে তাদের নতুন বৈশিষ্ট্য সহ নতুন গ্রাফ ডেটা নোডগুলিতে প্রয়োগ করে। অতএব, নতুন গ্রাফ ডেটা একই বৈশিষ্ট্য এনকোডিং ব্যবহার করে প্রক্রিয়া করা আবশ্যক, এবং এটি মূল গ্রাফ ডেটার মতো একই গ্রাফ স্কিমা মেনে চলতে হবে। নেপচুন এমএল বাস্তবায়নের আরও বিস্তারিত দেখুন এখানে নতুন মডেলের শিল্পকর্ম তৈরি করা হচ্ছে.
তাছাড়া, যদি গ্রাফ নাটকীয়ভাবে পরিবর্তিত হয়, অথবা যদি পূর্বে প্রশিক্ষিত মডেল আর অন্তর্নিহিত মিথস্ক্রিয়াগুলি সঠিকভাবে উপস্থাপন করতে না পারে তাহলে আপনি পুরো মডেলটিকে পুনরায় প্রশিক্ষণ দিতে পারেন। এই ক্ষেত্রে, একটি নতুন গ্রাফে শেখা মডেলের পরামিতিগুলি পুনরায় ব্যবহার করা একটি অনুরূপ মডেল কর্মক্ষমতা গ্যারান্টি দিতে পারে না। আপনাকে অবশ্যই নতুন গ্রাফে আপনার মডেলকে পুনরায় প্রশিক্ষণ দিতে হবে। হাইপারপ্যারামিটার অনুসন্ধানকে ত্বরান্বিত করার জন্য, নেপচুন এমএল পূর্ববর্তী মডেল প্রশিক্ষণ কাজ থেকে উষ্ণ সূচনা করে তথ্য লাভ করতে পারে: পূর্ববর্তী প্রশিক্ষণ কাজের ফলাফলগুলি নতুন টিউনিং কাজের অনুসন্ধান করতে হাইপারপ্যারামিটারের ভাল সমন্বয় নির্বাচন করতে ব্যবহৃত হয়।
দেখ বিকশিত গ্রাফ ডেটা পরিচালনার জন্য কর্মপ্রবাহ আরো বিস্তারিত জানার জন্য.
উপসংহার
এই পোস্টে, আপনি দেখেছেন কিভাবে নেপচুন এমএল এবং জিএনএন আপনাকে গ্রাফের জটিল মিথস্ক্রিয়া প্যাটার্নগুলি থেকে তথ্য একত্রিত করে একটি লিঙ্ক পূর্বাভাস টাস্ক ব্যবহার করে গ্রাফ ডেটাতে সুপারিশ করতে সাহায্য করতে পারে।
লিঙ্ক ভবিষ্যদ্বাণী গ্রাফে একটি সুপারিশ সিস্টেম বাস্তবায়নের একটি উপায়। আপনি অন্য অনেক উপায়ে আপনার সুপারিশকারী তৈরি করতে পারেন। আপনি লিঙ্ক ভবিষ্যদ্বাণী প্রশিক্ষণের সময় শিখে নেওয়া এমবেডিংগুলি ব্যবহার করতে পারেন নোডগুলিকে একটি তত্ত্বাবধান ছাড়াই বিভিন্ন সেগমেন্টে ক্লাস্টার করতে এবং একই সেগমেন্টের অন্তর্গত আইটেমগুলির সুপারিশ করতে পারেন৷ তদ্ব্যতীত, আপনি এম্বেডিংগুলি পেতে পারেন এবং একটি ইনপুট বৈশিষ্ট্য হিসাবে একটি ডাউনস্ট্রিম সাদৃশ্য-ভিত্তিক সুপারিশ সিস্টেমে তাদের খাওয়াতে পারেন। এখন এই অতিরিক্ত ইনপুট বৈশিষ্ট্যটি গ্রাফ থেকে প্রাপ্ত শব্দার্থিক তথ্যকেও এনকোড করে এবং সিস্টেমের সামগ্রিক নির্ভুলতায় উল্লেখযোগ্য উন্নতি প্রদান করতে পারে। ভিজিট করে অ্যামাজন নেপচুন এমএল সম্পর্কে আরও জানুন ওয়েবসাইট অথবা মন্তব্যে প্রশ্ন জিজ্ঞাসা করতে বিনা দ্বিধায়!
লেখক সম্পর্কে
ইয়ানওয়েই কুই, পিএইচডি, AWS-এর একজন মেশিন লার্নিং স্পেশালিস্ট সলিউশন আর্কিটেক্ট। তিনি IRISA (কম্পিউটার সায়েন্স অ্যান্ড র্যান্ডম সিস্টেমের গবেষণা ইনস্টিটিউট) এ মেশিন লার্নিং গবেষণা শুরু করেন এবং কম্পিউটার ভিশন, প্রাকৃতিক ভাষা প্রক্রিয়াকরণ এবং অনলাইন ব্যবহারকারী আচরণের পূর্বাভাসে কৃত্রিম বুদ্ধিমত্তা চালিত শিল্প অ্যাপ্লিকেশন তৈরির কয়েক বছরের অভিজ্ঞতা রয়েছে। AWS-এ, তিনি ডোমেন দক্ষতা শেয়ার করেন এবং গ্রাহকদের ব্যবসায়িক সম্ভাবনা আনলক করতে এবং মেশিন লার্নিং স্কেলে কার্যকরী ফলাফল আনতে সাহায্য করেন। কাজের বাইরে, তিনি পড়া এবং ভ্রমণ উপভোগ করেন।
উইল বদর একজন প্রিন্সিপাল AI/ML বিশেষজ্ঞ SA যিনি গ্লোবাল অ্যামাজন মেশিন লার্নিং দলের অংশ হিসেবে কাজ করেন। উইল সম্প্রদায়কে ইতিবাচকভাবে প্রভাবিত করার জন্য উদ্ভাবনী উপায়ে প্রযুক্তি ব্যবহার করার বিষয়ে উত্সাহী। তার অবসর সময়ে, তিনি ডাইভিং করতে, ফুটবল খেলতে এবং প্রশান্ত মহাসাগরীয় দ্বীপপুঞ্জ ঘুরে দেখতে পছন্দ করেন।
- '
- "
- 100
- 2020
- 7
- সম্পর্কে
- অনুযায়ী
- হিসাব
- যোগ
- অতিরিক্ত
- অ্যালগরিদম
- আলগোরিদিম
- সব
- ইতিমধ্যে
- মর্দানী স্ত্রীলোক
- অ্যামাজন মেশিন লার্নিং
- আমাজন সেজমেকার
- এ্যাপাচি
- অ্যাপ্লিকেশন
- কৃত্রিম
- কৃত্রিম বুদ্ধিমত্তা
- চারু
- অটোমেটেড
- ডেস্কটপ AWS
- এডাব্লুএস পুনরায়: উদ্ভাবন
- শুরু
- সর্বোত্তম
- বিল
- বিলিয়ন
- কালো
- নির্মাণ করা
- ভবন
- ব্যবসায়
- মামলা
- চ্যালেঞ্জ
- শ্রেণীবিন্যাস
- কোড
- সাধারণ
- সম্প্রদায়
- জটিল
- গনা
- কম্পিউটার বিজ্ঞান
- কম্পিউটার ভিশন
- কম্পিউটিং
- কনফিগারেশন
- সংযোগ
- সংযোগ
- কনসোল
- বিষয়বস্তু
- একত্রিত করা
- পারা
- গ্রাহকদের
- উপাত্ত
- তথ্য বিজ্ঞানী
- তথ্য ভান্ডার
- ডেটাবেস
- লেনদেন
- গভীর জ্ঞানার্জন
- বিকাশকারী
- বিভিন্ন
- আবিষ্কার
- দূরত্ব
- ইকমার্স
- প্রান্ত
- শেষপ্রান্ত
- প্রকৌশল
- প্রকৌশলী
- ইত্যাদি
- উদাহরণ
- অভিজ্ঞতা
- অন্বেষণ
- রপ্তানি
- নিষ্কাশন
- দ্রুত
- বৈশিষ্ট্য
- বৈশিষ্ট্য
- ব্যক্তিত্ব
- প্রথম
- কেন্দ্রবিন্দু
- ফর্ম
- বিন্যাস
- ফ্রেমওয়ার্ক
- বিনামূল্যে
- বন্ধুত্ব
- ক্রিয়া
- গেম
- উত্পাদন করা
- বিশ্বব্যাপী
- ভাল
- গ্রাফ নিউরাল নেটওয়ার্ক
- মহান
- হ্যান্ডলিং
- সাহায্য
- সাহায্য
- এখানে
- কিভাবে
- কিভাবে
- HTTPS দ্বারা
- আমি
- প্রভাব
- বাস্তবায়ন
- উন্নতি
- সুদ্ধ
- বৃদ্ধি
- স্বতন্ত্র
- শিল্প
- তথ্য
- উদ্ভাবনী
- বুদ্ধিমত্তা
- মিথষ্ক্রিয়া
- মধ্যে রয়েছে
- IT
- কাজ
- জবস
- ভাষা
- ভাষাসমূহ
- শিখতে
- জ্ঞানী
- শিক্ষা
- লেভারেজ
- লাইব্রেরি
- লাইন
- LINK
- তালিকা
- পাখি
- অবস্থান
- খুঁজছি
- খুঁজে দেখো
- মেশিন লার্নিং
- সদস্য
- মিলিসেকেন্ড
- ML
- মডেল
- সঙ্গীত
- স্বভাবিক ভাষা
- স্বাভাবিক ভাষা প্রক্রিয়াকরণ
- প্রয়োজন
- প্রতিবেশী
- নেটওয়ার্ক
- নেটওয়ার্ক
- নিউরাল
- স্নায়বিক নেটওয়ার্ক
- নিউরাল নেটওয়ার্ক
- নতুন বৈশিষ্ট
- নোড
- নোটবুক
- অনলাইন
- খোলা
- অন্যান্য
- শান্তিপ্রয়াসী
- কাগজ
- সম্প্রদায়
- কর্মক্ষমতা
- ফেজ
- প্ল্যাটফর্ম
- খেলা
- স্পষ্টতা
- ভবিষ্যদ্বাণী
- ভবিষ্যতবাণী
- বর্তমান
- অধ্যক্ষ
- সমস্যা
- প্রক্রিয়া
- পণ্য
- প্রোফাইল
- উন্নীত করা
- সম্পত্তি
- উত্থাপন করা
- প্রদান
- উপলব্ধ
- ক্রয়
- পাইথন
- প্রশ্ন
- পরিসর
- কাঁচা
- মূল তথ্য
- RE
- পড়া
- প্রত্যাগতি
- সম্পর্ক
- প্রতিস্থাপন করা
- গবেষণা
- ফলাফল
- পুনরায়োজন
- আয়
- চালান
- ঋষি নির্মাতা
- স্কেল
- বিজ্ঞান
- সার্চ
- সেট
- শেয়ার
- শেয়ারগুলি
- অনুরূপ
- সহজ
- ছোট
- সকার
- সামাজিক
- সামাজিক গ্রাফ
- সামাজিক যোগাযোগ মাধ্যম
- সামাজিক যোগাযোগ
- সলিউশন
- স্থান
- বিজ্ঞাপন
- পর্যায়
- মান
- শুরু
- শুরু
- স্টোরেজ
- দোকান
- কৌশল
- ক্রোড়পত্র
- সমর্থন
- জরিপ
- পদ্ধতি
- সিস্টেম
- লক্ষ্য
- প্রযুক্তি
- প্রযুক্তিঃ
- গ্রাফ
- দ্বারা
- সময়
- শীর্ষ
- প্রশিক্ষণ
- রুপান্তর
- রুপান্তর
- আপডেট
- us
- ব্যবহারকারী
- মূল্য
- দৃষ্টি
- কি
- হু
- ব্যাপকভাবে
- উইকিপিডিয়া
- ছাড়া
- শব্দ
- হয়া যাই ?
- কর্মপ্রবাহ
- কাজ
- would
- বছর
- জুম্