AI-তে বৈচিত্র্যের গুরুত্ব মতামত নয়, এটা গণিত – IBM ব্লগ

আমরা সবাই আমাদের আদর্শ মানবিক মূল্যবোধ আমাদের প্রযুক্তিতে প্রতিফলিত দেখতে চাই। আমরা আশা করি যে কৃত্রিম বুদ্ধিমত্তা (AI) এর মতো প্রযুক্তিগুলি আমাদের সাথে মিথ্যা না বলবে, বৈষম্য করবে না এবং আমাদের এবং আমাদের শিশুদের ব্যবহারের জন্য নিরাপদ হবে। তবুও অনেক এআই নির্মাতারা বর্তমানে তাদের মডেলগুলিতে উন্মোচিত পক্ষপাত, ভুল এবং সমস্যাযুক্ত ডেটা অনুশীলনের জন্য প্রতিক্রিয়ার মুখোমুখি হচ্ছেন। এই সমস্যাগুলির জন্য একটি প্রযুক্তিগত, অ্যালগরিদমিক বা AI-ভিত্তিক সমাধানের চেয়ে বেশি প্রয়োজন। বাস্তবে, একটি সামগ্রিক, সামাজিক-প্রযুক্তিগত পদ্ধতির প্রয়োজন।

গণিত একটি শক্তিশালী সত্য প্রদর্শন করে

AI সহ সমস্ত ভবিষ্যদ্বাণীমূলক মডেলগুলি আরও সঠিক হয় যখন তারা বিভিন্ন মানব বুদ্ধিমত্তা এবং অভিজ্ঞতাকে অন্তর্ভুক্ত করে। এটি একটি মতামত নয়; এটার অভিজ্ঞতামূলক বৈধতা আছে। বিবেচনা করুন বৈচিত্র্যের পূর্বাভাস উপপাদ্য. সহজ কথায়, যখন একটি গোষ্ঠীতে বৈচিত্র্য বড় হয়, তখন ভিড়ের ত্রুটি ছোট হয় — "ভিড়ের জ্ঞান" ধারণাটিকে সমর্থন করে। একটি প্রভাবশালী গবেষণায়, এটি দেখানো হয়েছে যে নিম্ন-ক্ষমতার সমস্যা সমাধানকারীদের বিভিন্ন গ্রুপ উচ্চ-ক্ষমতার সমস্যা সমাধানকারীদের গোষ্ঠীকে ছাড়িয়ে যেতে পারে (হং এবং পেজ, 2004).

গাণিতিক ভাষায়: আপনার প্রকরণ যত বেশি, আপনার গড় তত বেশি প্রমিত। সমীকরণ এই মত দেখায়:

A আরও অধ্যয়ন অন্যান্য সদস্যদের ভবিষ্যদ্বাণী সম্পর্কে অজ্ঞতা এবং সহ তাদের অন্তর্ভুক্তি সহ জ্ঞানী জনতার পরিসংখ্যানগত সংজ্ঞা পরিমার্জিত করে এমন আরও গণনা প্রদান করেছে সর্বাধিক ভিন্ন (নেতিবাচকভাবে সম্পর্কযুক্ত) ভবিষ্যদ্বাণী বা রায়। সুতরাং, এটি কেবল ভলিউম নয়, বৈচিত্র্য যা ভবিষ্যদ্বাণীগুলিকে উন্নত করে। কীভাবে এই অন্তর্দৃষ্টি AI মডেলগুলির মূল্যায়নকে প্রভাবিত করতে পারে?

মডেল (ইন) নির্ভুলতা

একটি সাধারণ অ্যাফোরিজম উদ্ধৃত করতে, সমস্ত মডেল ভুল। এটি পরিসংখ্যান, বিজ্ঞান এবং এআই এর ক্ষেত্রে সত্য। ডোমেন দক্ষতার অভাবের সাথে তৈরি মডেল হতে পারে ভ্রান্ত আউটপুট।

আজ, মানুষের একটি ক্ষুদ্র সমজাতীয় গোষ্ঠী নির্ধারণ করে যে জেনারেটিভ এআই মডেলগুলিকে প্রশিক্ষণের জন্য কোন ডেটা ব্যবহার করতে হবে, যা ইংরেজিকে ব্যাপকভাবে উপস্থাপন করে এমন উত্স থেকে নেওয়া হয়েছে। "বিশ্বের 6,000 টিরও বেশি ভাষার জন্য, উপলব্ধ পাঠ্য ডেটা একটি বড় আকারের ভিত্তি মডেলকে প্রশিক্ষণ দেওয়ার জন্য যথেষ্ট নয়" (" থেকেফাউন্ডেশন মডেলের সুযোগ এবং ঝুঁকি সম্পর্কে"বোমাসানি এট আল।, 2022)।

উপরন্তু, মডেলগুলি নিজেরাই সীমিত স্থাপত্য থেকে তৈরি করা হয়েছে: “প্রায় সব অত্যাধুনিক এনএলপি মডেল এখন কয়েকটি ফাউন্ডেশন মডেলের একটি থেকে অভিযোজিত হয়েছে, যেমন BERT, RoBERta, BART, T5, ইত্যাদি৷ অত্যন্ত উচ্চ লিভারেজ (ফাউন্ডেশন মডেলের যেকোনো উন্নতি সমস্ত NLP জুড়ে তাৎক্ষণিক সুবিধার দিকে নিয়ে যেতে পারে), এটিও একটি দায়; সমস্ত এআই সিস্টেমগুলি কয়েকটি ফাউন্ডেশন মডেলের একই সমস্যাযুক্ত পক্ষপাতের উত্তরাধিকারী হতে পারে (বোমাসানি প্রমুখ।) "

জেনারেটিভ AI এর জন্য এটি পরিবেশন করা বিভিন্ন সম্প্রদায়গুলিকে আরও ভালভাবে প্রতিফলিত করার জন্য, মডেলগুলিতে অনেক বিস্তৃত মানুষের ডেটা উপস্থাপন করতে হবে।

মডেল নির্ভুলতা মূল্যায়ন পক্ষপাত মূল্যায়ন সঙ্গে হাতে হাতে যায়. আমাদের অবশ্যই জিজ্ঞাসা করা উচিত, মডেলটির উদ্দেশ্য কী এবং কার জন্য এটি অপ্টিমাইজ করা হয়েছে? উদাহরণ স্বরূপ, বিষয়বস্তু-প্রস্তাবিত অ্যালগরিদম এবং সার্চ ইঞ্জিন অ্যালগরিদম থেকে কে সবচেয়ে বেশি উপকৃত হয় তা বিবেচনা করুন। স্টেকহোল্ডারদের ব্যাপকভাবে বিভিন্ন স্বার্থ এবং লক্ষ্য থাকতে পারে। অ্যালগরিদম এবং মডেলের জন্য Bayes ত্রুটির জন্য লক্ষ্য বা প্রক্সি প্রয়োজন: ন্যূনতম ত্রুটি যা একটি মডেলের উন্নতি করতে হবে। এই প্রক্সি প্রায়ই একজন ব্যক্তি, যেমন ডোমেন দক্ষতা সহ একটি বিষয় বিশেষজ্ঞ।

একটি খুব মানবিক চ্যালেঞ্জ: মডেল সংগ্রহ বা উন্নয়নের আগে ঝুঁকি মূল্যায়ন

উদীয়মান এআই প্রবিধান এবং কর্ম পরিকল্পনা ক্রমবর্ধমানভাবে অ্যালগরিদমিক প্রভাব মূল্যায়ন ফর্মগুলির গুরুত্বকে আন্ডারস্কোর করছে। এই ফর্মগুলির লক্ষ্য হল AI মডেলগুলি সম্পর্কে সমালোচনামূলক তথ্য ক্যাপচার করা যাতে গভর্নেন্স টিমগুলি তাদের মোতায়েন করার আগে তাদের ঝুঁকিগুলি মূল্যায়ন এবং মোকাবেলা করতে পারে। সাধারণ প্রশ্নগুলির মধ্যে রয়েছে:

• আপনার মডেলের ব্যবহার কেস কি?
• ভিন্ন প্রভাবের জন্য ঝুঁকি কি?
• আপনি কিভাবে ন্যায্যতা মূল্যায়ন করছেন?
• আপনি কিভাবে আপনার মডেল ব্যাখ্যাযোগ্য করে তোলে?

যদিও ভাল উদ্দেশ্য নিয়ে ডিজাইন করা হয়েছে, সমস্যাটি হল যে বেশিরভাগ AI মডেলের মালিকরা তাদের ব্যবহারের ক্ষেত্রে ঝুঁকিগুলি কীভাবে মূল্যায়ন করবেন তা বুঝতে পারেন না। একটি সাধারণ বিরত থাকতে পারে, "আমার মডেল যদি ব্যক্তিগতভাবে শনাক্তকরণযোগ্য তথ্য (PII) সংগ্রহ না করে তাহলে কীভাবে অন্যায্য হতে পারে?" ফলস্বরূপ, শাসন ব্যবস্থার জন্য ঝুঁকির কারণগুলিকে সঠিকভাবে চিহ্নিত করার জন্য প্রয়োজনীয় চিন্তাভাবনার সাথে ফর্মগুলি খুব কমই সম্পন্ন করা হয়।

সুতরাং, সমাধানের আর্থ-সামাজিক-প্রযুক্তিগত প্রকৃতি আন্ডারস্কোর করা হয়েছে। একজন মডেল মালিক—একজন ব্যক্তি—কে তাদের ব্যবহারের ক্ষেত্রে ক্ষতি হবে কিনা তা মূল্যায়ন করার জন্য চেকবক্সগুলির একটি তালিকা দেওয়া যাবে না৷ পরিবর্তে, যা প্রয়োজন তা হল বিস্তৃতভাবে পরিবর্তিত জীবিত-বিশ্বের অভিজ্ঞতার সাথে মানুষের গোষ্ঠীগুলি এমন সম্প্রদায়গুলিতে একত্রিত হওয়া যা ভিন্ন প্রভাব সম্পর্কে কঠিন কথোপকথনের জন্য মনস্তাত্ত্বিক সুরক্ষা প্রদান করে।

বিশ্বস্ত AI এর জন্য বৃহত্তর পরিপ্রেক্ষিতকে স্বাগত জানানো

IBM® একটি "ক্লায়েন্ট জিরো" পন্থা গ্রহণে, পরামর্শ এবং পণ্য-নেতৃত্বপূর্ণ সমাধান জুড়ে তার নিজস্ব ক্লায়েন্টদের জন্য তৈরি করা সুপারিশ এবং সিস্টেমগুলি বাস্তবায়নে বিশ্বাস করে। এই পদ্ধতিটি নৈতিক অনুশীলন পর্যন্ত প্রসারিত, যে কারণে IBM একটি বিশ্বস্ত এআই সেন্টার অফ এক্সিলেন্স (COE) তৈরি করেছে।

উপরে ব্যাখ্যা করা হয়েছে, AI এর প্রভাবগুলিকে সঠিকভাবে মূল্যায়ন করার জন্য অভিজ্ঞতা এবং দক্ষতার বৈচিত্র্য গুরুত্বপূর্ণ। কিন্তু AI উদ্ভাবক, বিশেষজ্ঞ এবং বিশিষ্ট প্রকৌশলীদের নিয়ে বিস্ফোরিত একটি কোম্পানিতে উৎকর্ষ কেন্দ্রে অংশগ্রহণের সম্ভাবনা ভয়ঙ্কর হতে পারে, তাই মানসিক নিরাপত্তার একটি সম্প্রদায় গড়ে তোলা প্রয়োজন। IBM এই বলে স্পষ্টভাবে যোগাযোগ করে, "AI তে আগ্রহী? AI নীতিশাস্ত্রে আগ্রহী? এই টেবিলে তোমার আসন আছে।"

COE প্রতিটি স্তরে অনুশীলনকারীদের এআই নীতিশাস্ত্রে প্রশিক্ষণ প্রদান করে। উভয় সিঙ্ক্রোনাস লার্নিং (শ্রেণীর সেটিংসে শিক্ষক এবং ছাত্র) এবং অ্যাসিঙ্ক্রোনাস (স্ব-নির্দেশিত) প্রোগ্রামগুলি অফার করা হয়।

কিন্তু এটা COE এর ফলিত প্রশিক্ষণ যা আমাদের অনুশীলনকারীদের গভীরতম অন্তর্দৃষ্টি দেয়, কারণ তারা বৈশ্বিক, বৈচিত্র্যময়, বহুবিভাগীয় দলগুলির সাথে বাস্তব প্রকল্পগুলিতে কাজ করে বৈষম্যের প্রভাবকে আরও ভালভাবে বুঝতে। তারা আইবিএম-এর ডিজাইন চিন্তা কাঠামোরও সুবিধা নেয় এআই এর জন্য ডিজাইন গ্রুপ অভ্যন্তরীণভাবে এবং ক্লায়েন্টদের সাথে AI মডেলের অনিচ্ছাকৃত প্রভাবগুলি মূল্যায়ন করতে ব্যবহার করে, যারা প্রায়শই প্রান্তিক মনের শীর্ষে থাকে। (সিলভিয়া ডাকওয়ার্থ দেখুন ক্ষমতা এবং বিশেষাধিকার চাকা ব্যক্তিগত বৈশিষ্ট্যগুলি কীভাবে বিশেষাধিকার বা প্রান্তিকতার সাথে ছেদ করে তার উদাহরণগুলির জন্য।) IBM ওপেন সোর্স সম্প্রদায়কে অনেকগুলি কাঠামো দান করেছে নৈতিকভাবে ডিজাইন করুন.

নীচে IBM এই প্রকল্পগুলির উপর প্রকাশ্যে প্রকাশিত কয়েকটি প্রতিবেদন রয়েছে:

আপনার AI মডেল কীভাবে পারফর্ম করছে সে সম্পর্কে গুরুত্বপূর্ণ অন্তর্দৃষ্টি সংগ্রহ করতে স্বয়ংক্রিয় AI মডেল গভর্নেন্স টুলগুলির প্রয়োজন৷ কিন্তু মনে রাখবেন, আপনার মডেল তৈরি হওয়ার আগেই ঝুঁকি ক্যাপচার করা এবং উৎপাদনে থাকা সর্বোত্তম। বৈচিত্র্যময়, বহু-বিষয়ক অনুশীলনকারীদের সম্প্রদায় তৈরি করে যা লোকেদের আলাদা প্রভাব সম্পর্কে কঠিন কথোপকথন করার জন্য একটি নিরাপদ স্থান সরবরাহ করে, আপনি আপনার নীতিগুলিকে কার্যকর করার জন্য আপনার যাত্রা শুরু করতে পারেন এবং দায়িত্বের সাথে AI বিকাশ করতে পারেন।

অনুশীলনে, আপনি যখন AI অনুশীলনকারীদের জন্য নিয়োগ করছেন, তখন বিবেচনা করুন যে মডেল তৈরি করার প্রচেষ্টার 70% এরও বেশি সঠিক ডেটা সংগ্রহ করছে। আপনি এমন লোকদের নিয়োগ করতে চান যারা প্রতিনিধিত্বমূলক তথ্য সংগ্রহ করতে জানেন এবং এটিও সম্মতিতে সংগ্রহ করা হয়। আপনি এমন লোকেদেরও চান যারা ডোমেন বিশেষজ্ঞদের সাথে ঘনিষ্ঠভাবে কাজ করতে জানেন তাদের সঠিক পদ্ধতির বিষয়টি নিশ্চিত করতে। এই অনুশীলনকারীদের নম্রতা এবং বিচক্ষণতার সাথে দায়িত্বের সাথে AI কে কিউরেট করার চ্যালেঞ্জের কাছে যাওয়ার জন্য মানসিক বুদ্ধিমত্তা রয়েছে তা নিশ্চিত করা গুরুত্বপূর্ণ। কীভাবে এবং কখন এআই সিস্টেমগুলি মানুষের বুদ্ধিমত্তাকে বাড়িয়ে তুলতে পারে ঠিক ততটাই অসাম্যকে বাড়িয়ে তুলতে পারে কীভাবে চিনতে হয় তা শিখতে আমাদের অবশ্যই ইচ্ছাকৃত হতে হবে।

AI এর সাথে আপনার ব্যবসা কীভাবে কাজ করে তা পুনরায় উদ্ভাবন করুন