এআই বৈষম্য মোকাবেলার জরুরিতা: স্বচ্ছতা, জবাবদিহিতা এবং নিয়ন্ত্রক সময়রেখা

কৃত্রিম বুদ্ধিমত্তা (AI) বিভিন্ন শিল্পে বিপ্লব ঘটিয়েছে, অসংখ্য সুবিধা এবং সুযোগ প্রদান করেছে। যাইহোক, এআই-এর বৈষম্য এবং পক্ষপাতকে স্থায়ী করার সম্ভাবনা নিয়ে উদ্বেগ প্রকাশ পেয়েছে। এই নিবন্ধটি AI বৈষম্যের বিষয়টিকে অন্বেষণ করে, AI সিস্টেমের মধ্যে এম্বেড করা পক্ষপাতগুলি সনাক্ত এবং মোকাবেলার চ্যালেঞ্জগুলির উপর আলোকপাত করে। শিল্পের অভ্যন্তরীণ ব্যক্তিরা AI এর নৈতিক এবং নৈতিক প্রভাব সম্পর্কে সন্দেহ প্রকাশ করেছেন, ভুল তথ্য, অ্যালগরিদমের পক্ষপাতিত্ব এবং বিভ্রান্তিকর বিষয়বস্তু তৈরির বিষয়ে উদ্বেগের কথা উল্লেখ করেছেন। এআইকে ঘিরে তর্ক-বিতর্ক তীব্র হওয়ার সাথে সাথে স্বচ্ছতা, জবাবদিহিতা এবং মৌলিক অধিকারের সুরক্ষা নিশ্চিত করার জন্য অর্থপূর্ণ নিয়ন্ত্রণের জন্য একটি ক্রমবর্ধমান আহ্বান রয়েছে।

AI এর সাথে আর্থিক শিল্পের জন্য চ্যালেঞ্জ

এফআইএস-এর ওয়ার্ল্ডপে-তে ক্রিপ্টো এবং ওয়েব3-এর প্রধান নাবিল মানজির মতে, এআই পণ্যের কার্যকারিতা প্রশিক্ষণের জন্য ব্যবহৃত উৎস উপাদানের মানের উপর অনেক বেশি নির্ভর করে। সিএনবিসি-র সাথে একটি সাক্ষাত্কারে, মানজি ব্যাখ্যা করেছেন যে দুটি প্রধান কারণ AI এর কার্যকারিতাতে অবদান রাখে: এটি যে ডেটা অ্যাক্সেস করে এবং বড় ভাষা মডেলের ক্ষমতা।

ডেটার তাৎপর্য ব্যাখ্যা করার জন্য, মানজি উল্লেখ করেছেন যে রেডডিটের মতো কোম্পানিগুলি প্রকাশ্যে ডেটা স্ক্র্যাপিংয়ের উপর বিধিনিষেধ ঘোষণা করেছে, অ্যাক্সেসের জন্য অর্থপ্রদানের প্রয়োজন। আর্থিক পরিষেবা খাতে, তিনি বিভিন্ন ভাষা এবং বিন্যাসে খণ্ডিত ডেটা সিস্টেমের চ্যালেঞ্জ তুলে ধরেন। একত্রীকরণ এবং সমন্বয়ের এই অভাব AI-চালিত পণ্যগুলির কার্যকারিতাকে সীমিত করে, বিশেষ করে যখন মানসম্মত এবং আধুনিক ডেটা অবকাঠামো সহ শিল্পগুলির সাথে তুলনা করা হয়।

মানজির মতে, ব্লকচেইন বা ডিস্ট্রিবিউটেড লেজার প্রযুক্তির ব্যবহার এই সমস্যা মোকাবেলার জন্য একটি সম্ভাব্য সমাধান দিতে পারে। এই উদ্ভাবনী পদ্ধতি প্রচলিত ব্যাঙ্কগুলির জটিল সিস্টেমগুলির মধ্যে সংরক্ষিত খণ্ডিত ডেটাতে বর্ধিত স্বচ্ছতা প্রদান করতে পারে। যাইহোক, তিনি স্বীকার করেছেন যে ব্যাঙ্কগুলির অত্যন্ত নিয়ন্ত্রিত এবং ধীর গতির প্রকৃতি তাদের নতুন এআই সরঞ্জামগুলি দ্রুত গ্রহণ করার ক্ষমতাকে বাধাগ্রস্ত করতে পারে, মাইক্রোসফ্ট এবং গুগলের মতো আরও চটপটে প্রযুক্তি সংস্থাগুলির বিপরীতে, যা বিগত কয়েকদিন ধরে উদ্ভাবন চালানোর ক্ষেত্রে এগিয়ে রয়েছে। দশক

এই বিষয়গুলো বিবেচনা করলে, এটা স্পষ্ট হয়ে ওঠে যে, ডেটা ইন্টিগ্রেশনের জটিলতা এবং ব্যাঙ্কিং সেক্টরের অন্তর্নিহিত প্রকৃতির কারণে আর্থিক শিল্প AI সুবিধার ক্ষেত্রে অনন্য চ্যালেঞ্জের সম্মুখীন।

টুইটারে মেশিন লার্নিং নীতিশাস্ত্র, স্বচ্ছতা এবং জবাবদিহিতার প্রাক্তন প্রধান রুম্মান চৌধুরীর মতে, এআই সিস্টেমে পক্ষপাতিত্ব কীভাবে প্রান্তিক জনগোষ্ঠীকে বিরূপভাবে প্রভাবিত করতে পারে তার একটি উল্লেখযোগ্য উদাহরণ হল ঋণ দেওয়া। আমস্টারডামে একটি প্যানেল আলোচনায় বক্তৃতা, চৌধুরী 1930 এর দশকে শিকাগোতে "রেডলাইন" এর ঐতিহাসিক অনুশীলন তুলে ধরেন। রেডলাইনিং জাতিগত জনসংখ্যার উপর ভিত্তি করে প্রধানত আফ্রিকান আমেরিকান আশেপাশে ঋণ অস্বীকার জড়িত।

চৌধুরী ব্যাখ্যা করেছিলেন যে যদিও আধুনিক অ্যালগরিদমগুলি স্পষ্টভাবে জাতিকে ডেটা পয়েন্ট হিসাবে অন্তর্ভুক্ত করতে পারে না, পক্ষপাতগুলি এখনও অন্তর্নিহিতভাবে এনকোড করা যেতে পারে। ঋণ প্রদানের উদ্দেশ্যে জেলা এবং ব্যক্তিদের ঝুঁকির মূল্যায়ন করার জন্য অ্যালগরিদম বিকাশ করার সময়, পক্ষপাত ধারণ করে এমন ঐতিহাসিক তথ্য অসাবধানতাবশত বৈষম্যকে স্থায়ী করতে পারে।

অ্যাঙ্গেল বুশ, কৃত্রিম বুদ্ধিমত্তায় কালো মহিলাদের পিছনের স্বপ্নদর্শী, ঋণ অনুমোদনের সিদ্ধান্ত নেওয়ার জন্য এআই সিস্টেমগুলিকে নিয়োগ করার সময় ঐতিহাসিক ডেটাতে এমবেড করা পক্ষপাত পুনরুত্পাদনের সাথে সম্পর্কিত বিপদগুলিকে স্বীকার করার গুরুত্ব তুলে ধরেন৷ এই ধরনের অভ্যাস প্রান্তিক জনগোষ্ঠী থেকে ঋণের আবেদন স্বয়ংক্রিয়ভাবে প্রত্যাখ্যান করতে পারে, যার ফলে জাতিগত বা লিঙ্গ বৈষম্য স্থায়ী হয়।

ফ্রস্ট লি, একজন অভিজ্ঞ এআই বিকাশকারী, ব্যক্তিগতকরণের চ্যালেঞ্জগুলি নির্দেশ করেছেন৷ এআই সংহতকরণ. এআই মডেলের প্রশিক্ষণের জন্য "মূল বৈশিষ্ট্যগুলি" নির্বাচন করা কখনও কখনও সম্পর্কহীন কারণগুলিকে জড়িত করতে পারে যা পক্ষপাতদুষ্ট ফলাফলের দিকে নিয়ে যেতে পারে। লি একটি উদাহরণ প্রদান করেছেন যে কীভাবে বিদেশীদের লক্ষ্য করে ফিনটেক স্টার্টআপগুলি স্থানীয় ব্যাঙ্কগুলির তুলনায় বিভিন্ন ক্রেডিট মূল্যায়ন মানদণ্ডের মুখোমুখি হতে পারে, যেগুলি স্থানীয় স্কুল এবং সম্প্রদায়গুলির সাথে বেশি পরিচিত৷

নিকলাস গুসকে, Taktile-এর সিওও, ফিনটেকের জন্য স্বয়ংক্রিয় সিদ্ধান্ত গ্রহণে বিশেষজ্ঞ একটি স্টার্টআপ, স্পষ্ট করেছেন যে জেনারেটিভ এআই সাধারণত ক্রেডিট স্কোর তৈরি বা গ্রাহকদের ঝুঁকি স্কোর করার জন্য ব্যবহার করা হয় না। বিপরীতে, এর শক্তি প্রচলিত আন্ডাররাইটিং মডেলের জন্য ডেটা গুণমান উন্নত করার জন্য টেক্সট ফাইলের মতো অসংগঠিত ডেটার প্রিপ্রসেসিংয়ের মধ্যে নিহিত।

সংক্ষেপে, ঋণ ও আর্থিক পরিষেবাগুলিতে AI-এর ব্যবহার পক্ষপাত ও বৈষম্য সম্পর্কে উদ্বেগ বাড়ায়। ডেটাতে এম্বেড করা ঐতিহাসিক পক্ষপাত এবং AI প্রশিক্ষণের সময় অপ্রাসঙ্গিক বৈশিষ্ট্য নির্বাচনের ফলে অন্যায্য ফলাফল হতে পারে। AI সমাধানগুলি বাস্তবায়ন করার সময় বৈষম্যের অনিচ্ছাকৃত স্থায়ীত্ব রোধ করতে এই সমস্যাগুলিকে চিনতে এবং সমাধান করা ব্যাংক এবং আর্থিক প্রতিষ্ঠানগুলির জন্য গুরুত্বপূর্ণ।

এআই-বৈষম্যের প্রমাণ

এআই-ভিত্তিক বৈষম্য প্রমাণ করা চ্যালেঞ্জিং হতে পারে, যেমন অ্যাপল এবং গোল্ডম্যান শ্যাক্স জড়িত উদাহরণ দ্বারা হাইলাইট করা। নিউইয়র্ক স্টেট ডিপার্টমেন্ট অফ ফাইন্যান্সিয়াল সার্ভিসেস প্রমাণের অভাবের কারণে মহিলাদের জন্য অ্যাপল কার্ডে নিম্ন সীমা আরোপের অভিযোগ খারিজ করেছে।

বর্ণবাদের বিরুদ্ধে ইউরোপীয় নেটওয়ার্কের পরিচালক কিম স্মাউটার উল্লেখ করেছেন যে AI এর ব্যাপক স্থাপনা সিদ্ধান্ত গ্রহণের প্রক্রিয়াগুলিতে অস্বচ্ছতা নিয়ে আসে, যা ব্যক্তিদের পক্ষে বৈষম্য সনাক্ত করা এবং মোকাবেলা করা কঠিন করে তোলে।

স্মাউটার ব্যাখ্যা করেন যে ব্যক্তিদের প্রায়শই AI সিস্টেমগুলি কীভাবে কাজ করে সে সম্পর্কে সীমিত জ্ঞান থাকে, এটি বৈষম্য বা পদ্ধতিগত পক্ষপাতের উদাহরণ সনাক্ত করা কঠিন করে তোলে। এটি আরও জটিল হয়ে ওঠে যখন বৈষম্য একটি বিস্তৃত সমস্যার অংশ হয় যা একাধিক ব্যক্তিকে প্রভাবিত করে। স্মাউটার ডাচ শিশু কল্যাণ কেলেঙ্কারির উল্লেখ করেছেন, যেখানে প্রাতিষ্ঠানিক পক্ষপাতের কারণে বিপুল সংখ্যক সুবিধার দাবিগুলি ভুলভাবে প্রতারণামূলক হিসাবে লেবেল করা হয়েছিল। এই ধরনের কর্মহীনতার আবিষ্কার চ্যালেঞ্জিং, এবং প্রতিকার পাওয়া কঠিন এবং সময়সাপেক্ষ হতে পারে, যা উল্লেখযোগ্য এবং কখনও কখনও অপরিবর্তনীয় ক্ষতির দিকে পরিচালিত করে।

এই উদাহরণগুলি AI-ভিত্তিক বৈষম্যকে প্রমাণ করার এবং প্রতিকার পাওয়ার ক্ষেত্রে অন্তর্নিহিত অসুবিধাগুলিকে চিত্রিত করে যখন এই ধরনের বৈষম্য ঘটে। এআই সিস্টেমের জটিলতা এবং সিদ্ধান্ত গ্রহণের প্রক্রিয়ায় স্বচ্ছতার অভাব ব্যক্তিদের পক্ষে বৈষম্যের উদাহরণগুলিকে কার্যকরভাবে চিনতে এবং মোকাবেলা করা চ্যালেঞ্জিং করে তুলতে পারে।

চৌধুরীর মতে, এআই-এর সাথে সম্পর্কিত ঝুঁকিগুলি মোকাবেলায় জাতিসংঘের মতো একটি বিশ্বব্যাপী নিয়ন্ত্রক সংস্থার একটি চাপের প্রয়োজন রয়েছে। যদিও AI অসাধারণ উদ্ভাবন দেখিয়েছে, প্রযুক্তিবিদ এবং নীতিবিদরা এর নৈতিক ও নৈতিক প্রভাব সম্পর্কে উদ্বেগ প্রকাশ করেছেন। এই উদ্বেগের মধ্যে ভুল তথ্য, এআই অ্যালগরিদমে এম্বেড করা জাতিগত এবং লিঙ্গগত পক্ষপাত এবং ChatGPT-এর মতো টুলের মাধ্যমে বিভ্রান্তিকর বিষয়বস্তু তৈরির মতো সমস্যা রয়েছে।

চৌধুরী এমন একটি পোস্ট-ট্রুথ বিশ্বে প্রবেশের বিষয়ে উদ্বেগ প্রকাশ করেছেন যেখানে টেক্সট, ভিডিও এবং অডিও সহ অনলাইন তথ্য, জেনারেটিভ এআই-এর কারণে অবিশ্বস্ত হয়ে পড়ে। এটি কীভাবে আমরা তথ্যের অখণ্ডতা নিশ্চিত করতে পারি এবং কীভাবে আমরা জ্ঞাত সিদ্ধান্ত নেওয়ার জন্য এটির উপর নির্ভর করতে পারি সে সম্পর্কে প্রশ্ন উত্থাপন করে। উদাহরণ হিসাবে ইউরোপীয় ইউনিয়নের এআই আইনের সাথে, এআই-এর অর্থপূর্ণ নিয়ন্ত্রণ এই মুহূর্তে অত্যন্ত গুরুত্বপূর্ণ। যাইহোক, নিয়ন্ত্রক প্রস্তাবগুলি কার্যকর হতে দীর্ঘ সময়সীমা নিয়ে উদ্বেগ রয়েছে, সম্ভাব্য প্রয়োজনীয় পদক্ষেপগুলি বিলম্বিত করে।

স্মাউটার এআই অ্যালগরিদমগুলিতে বৃহত্তর স্বচ্ছতা এবং জবাবদিহিতার প্রয়োজনীয়তার উপর জোর দেয়। এর মধ্যে রয়েছে অ-বিশেষজ্ঞদের জন্য অ্যালগরিদমগুলিকে আরও বোধগম্য করা, পরীক্ষা পরিচালনা করা এবং ফলাফল প্রকাশ করা, স্বাধীন অভিযোগ প্রক্রিয়া প্রতিষ্ঠা করা, পর্যায়ক্রমিক নিরীক্ষা এবং প্রতিবেদন করা এবং প্রযুক্তির নকশা এবং স্থাপনায় বর্ণবাদী সম্প্রদায়কে জড়িত করা। AI আইনের প্রয়োগ, যা একটি মৌলিক অধিকারের দৃষ্টিকোণ গ্রহণ করে এবং প্রতিকারের মত ধারণাগুলি প্রবর্তন করে, প্রায় দুই বছরের মধ্যে শুরু হবে বলে আশা করা হচ্ছে। উদ্ভাবনের অবিচ্ছেদ্য দিক হিসাবে স্বচ্ছতা এবং জবাবদিহিতা বজায় রাখতে এই টাইমলাইন হ্রাস করা সুবিধাজনক হবে।

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। মোটরগাড়ি / ইভি, কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• ব্লকঅফসেট। পরিবেশগত অফসেট মালিকানার আধুনিকীকরণ। এখানে প্রবেশ করুন.
• উত্স: https://www.forexnewsnow.com/fintech/the-urgency-of-addressing-ai-discrimination-transparency-accountability-and-regulatory-timelines/