AI পক্ষপাতমূলক নিয়োগ বন্ধ করার জন্য ডিজাইন করা আইন অকার্যকর প্রমাণিত হয়

AI নিয়োগের অ্যালগরিদমগুলিতে পক্ষপাতকে লক্ষ্য করে নিউ ইয়র্ক সিটি আইনের কার্যকারিতা সম্পর্কে একটি গবেষণায় দেখা গেছে যে আইনটি মূলত অকার্যকর।

নিউ ইয়র্ক সিটি স্থানীয় আইন 144 (LL144) ছিল গৃহীত 2021 সালে, গত বছরের 1 জানুয়ারী থেকে কার্যকর হয়েছে এবং 2023 সালের জুলাই থেকে বলবৎ করা হয়েছে। আইনের জন্য নিয়োগকর্তাদের স্বয়ংক্রিয় কর্মসংস্থান সিদ্ধান্ত সরঞ্জাম (AEDTs) ব্যবহার করে জাতি এবং লিঙ্গ পক্ষপাতের জন্য বার্ষিক অডিট করতে হবে, সেই ফলাফলগুলি তাদের ওয়েবসাইটে প্রকাশ করতে হবে, এবং চাকরির পোস্টিংয়ে বিজ্ঞপ্তি অন্তর্ভুক্ত করে যে তারা চাকরির সিদ্ধান্ত নিতে এই ধরনের সফ্টওয়্যার ব্যবহার করে।

কর্নেল ইউনিভার্সিটির গবেষকদের গবেষণা, অলাভজনক রিভিউ সার্ভিস কনজিউমার রিপোর্টস এবং অলাভজনক ডেটা অ্যান্ড সোসাইটি রিসার্চ ইনস্টিটিউট এখনও প্রকাশ করা হয়নি তবে শেয়ার করা হয়েছে নিবন্ধনকর্মী. এতে দেখা গেছে যে 391 নিয়োগকর্তার নমুনা নেওয়া হয়েছে, শুধুমাত্র 18 জন আইনের অধীনে প্রয়োজনীয় অডিট রিপোর্ট প্রকাশ করেছেন। মাত্র 13 জন নিয়োগকর্তা (যাদের মধ্যে 11 জন অডিট রিপোর্টও প্রকাশ করেছেন) প্রয়োজনীয় স্বচ্ছতার নোটিশ অন্তর্ভুক্ত করেছেন।

LL144 "নিয়োগকারীদের সম্পূর্ণ বিচক্ষণতার কাছাকাছি অনুদান দেয় যে তাদের সিস্টেমটি আইনের সীমার মধ্যে আছে কিনা তা নির্ধারণ করতে," জ্যাকব মেটকাফ, ডেটা অ্যান্ড সোসাইটির একজন গবেষক এবং গবেষণার লেখকদের একজন বলেছেন নিবন্ধনকর্মী. "এবং নিয়োগকর্তাদের সেই সুযোগ এড়াতে একাধিক উপায় রয়েছে।"

মেটকাফ আমাদের বলেছে যে LL144 কোম্পানির কোনো ব্যবস্থা নেওয়ার প্রয়োজন নেই যদি এর একটি অডিট দেখায় যে AEDT বৈষম্যমূলক ফলাফলের দিকে পরিচালিত করেছে। এর মানে এই নয় যে কোম্পানীগুলি পক্ষপাতদুষ্ট AEDT ব্যবহার করছে, তবে হুক হবে না।

"নিয়োগকারীরা একটি অডিট পোস্ট করছেন যারা অসম প্রভাব দেখিয়েছেন তারা অন্যান্য ধরণের কর্মের জন্য উন্মুক্ত," মেটকাফ আমাদের বলেছেন। "কর্মসংস্থান বৈষম্য সম্পর্কে দেওয়ানী মামলা খুব ব্যয়বহুল হতে পারে।"

মেটকাল্ফ এবং তার বেশ কয়েকজন সহকর্মী LL144 সম্পর্কে একটি দ্বিতীয় গবেষণাপত্রে কাজ করছেন যা NYC কোম্পানিগুলির দ্বারা ব্যবহৃত AEDT পর্যালোচনাকারী নিরীক্ষকদের অভিজ্ঞতার উপর দৃষ্টি নিবদ্ধ করে৷ নিবন্ধনকর্মী কাগজটি দেখেছে, যা বর্তমানে পিয়ার পর্যালোচনার অধীনে রয়েছে। এটি দেখতে পায় যে অডিট AEDTs দ্বারা বৈষম্যের ঘটনা খুঁজে পেয়েছে।

"আমরা নিরীক্ষকদের সাথে সাক্ষাত্কার থেকে জানি যে নিয়োগকর্তারা এই অডিটের জন্য অর্থ প্রদান করেছে এবং তারপরে সংখ্যাগুলি খারাপ হলে সেগুলি প্রকাশ্যে পোস্ট করতে অস্বীকার করেছে," মেটকাফ আমাদের বলেছেন। "তাদের আইনী পরামর্শদাতা নিউ ইয়র্ক সিটির চেয়ে সমান কর্মসংস্থান সুযোগ কমিশনকে বেশি ভয় পায়।"

নিউ ইয়র্ক সিটি আইন অনুরূপ নিয়ম গ্রহণ ধীর

LL144-এর অনুরূপ আইন অন্যান্য বিচারব্যবস্থা দ্বারা বিবেচনা করা হয়েছে। এই প্রস্তাবগুলি বেশিরভাগই স্থগিত হয়ে গেছে কারণ আইন প্রণেতারা সচেতন হয়েছেন যে AI নিয়োগের পক্ষপাত রোধে NYC-এর প্রচেষ্টা কার্যকর হয়নি।

“[বিলের] স্পনসররা তাদের কাঠামো পুনর্বিবেচনা করছে। যতদূর আমি সচেতন সেখানে অনুরূপ আইনের উপর কোন পদক্ষেপ করা হয়নি,” মেটকাফ আমাদের বলেছেন। ক্যালিফোর্নিয়া বিবেচিত 2022 সালে অনুরূপ আইন, যখন ওয়াশিংটন ডিসি এবং নিউ ইয়র্ক রাজ্যও LL144-এর মতো আইন নিয়ে চিন্তাভাবনা করেছে।

ইউরোপীয় ইউনিয়নের এআই আইন, অস্থায়ীভাবে 2023 সালের ডিসেম্বরে সম্মত হয়েছে, নিয়োগ প্রক্রিয়ায় ব্যবহৃত AI-কে আইনের “উচ্চ ঝুঁকি"বিভাগ, অর্থ এই ধরনের পণ্য বাজারে পৌঁছানোর আগে এবং তাদের জীবনচক্র জুড়ে পর্যালোচনা করা প্রয়োজন হবে। ইইউ এখনও তাদের আইন পাস করেনি।

এআইতে পক্ষপাতিত্ব হয়েছে ভাল প্রতিষ্ঠিত এই মুহূর্তে.

এমনকি এইচআর সফটওয়্যার ফার্ম ওয়ার্কডেও হয়েছে বিরুদ্ধে মামলা দায়ের অভিযোগের ভিত্তিতে যে এটির নিয়োগ সফ্টওয়্যার কালো আবেদনকারীদের বিরুদ্ধে বৈষম্য করার জন্য ব্যবহার করা হয়েছে - ঠিক সেই ধরণের জিনিস যা LL144 লড়াই করার জন্য ডিজাইন করা হয়েছিল।

যদিও LL144 মূলত অকার্যকর হয়েছে, গবেষকরা উপসংহারে পৌঁছেছেন যে আইনটি আরও ভাল নিয়ন্ত্রণের দিকে প্রথম পদক্ষেপ।

"এই আইনগুলিতে কাজ করা যে কেউ জবাবদিহিতার কাঠামোর উপর পরীক্ষা-নিরীক্ষা করছে - আমরা এখনও জানি না কী কাজ করে," মেটকাফ আমাদের বলেছিলেন। "সুশীল সমাজের সমালোচকরা [এলএল১৪৪ সম্পর্কে] যা বলেছিল তার প্রায় সবকিছুই সত্য হয়েছে, কিন্তু আমরা এই কাগজে এমন কিছু শিখেছি যা অন্য লোকেরা [ভবিষ্যত প্রয়োগের প্রচেষ্টার জন্য] নিতে পারে।"

মেটকাফ বলেন, এলএল১৪৪ থেকে সবচেয়ে গুরুত্বপূর্ণ যে জিনিসটি শেখা যায় তার মধ্যে একটি হল, AEDT সফ্টওয়্যারের কভার ব্যবহার করার সুযোগকে আরও প্রসারিত করা উচিত।

LL144-এ ভাষা বিমূর্ত, শুধুমাত্র সেই ক্ষেত্রে AEDT সফ্টওয়্যারের ব্যবহারকে সংজ্ঞায়িত করে যেখানে এটি "কর্মসংস্থানের সিদ্ধান্ত নেওয়ার জন্য বিচক্ষণ সিদ্ধান্ত নেওয়ার ক্ষেত্রে যথেষ্ট সহায়তা বা প্রতিস্থাপন করতে ব্যবহৃত হয়।" "সারাংশ" মানে কি তা ব্যাখ্যার উপর নির্ভর করে।

যদি ভবিষ্যতে AEDT বৈষম্য মোকাবেলার জন্য তৈরি করা আইন কার্যকর হয়, তাহলে আমাদের বলা হয়েছে, AI নিয়োগের অ্যালগরিদম ব্যবহারের যে কোনো যোগ্যতা বাদ দেওয়া দরকার।

“যদি একটি সিস্টেম একটি স্কোর রেন্ডার করছে, এটি সুযোগের মধ্যে রয়েছে। সময়কাল,” মেটকাফ আমাদের বলেছেন। "নিয়োগকারীদের বিচক্ষণতা দেওয়া [তাদের AEDT-এর ব্যবহার LL144 এর সুযোগের আওতায় পড়ে কিনা তা সিদ্ধান্ত নেওয়ার ক্ষেত্রে] বিকৃত প্রণোদনা তৈরি করে যা এই আইনটি অর্জন করতে পারে এমন প্রকৃত জবাবদিহিতাকে দুর্বল করে।" ®

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/