AI تعصب کو روکنے کے لیے بنایا گیا قانون غیر موثر ثابت ہوتا ہے

افلاطون کے ذریعہ دوبارہ شائع کیا گیا۔

فالونگ: 0

AI ہائرنگ الگورتھم میں تعصب کو نشانہ بنانے والے نیویارک شہر کے قانون کی تاثیر کے بارے میں ایک مطالعہ نے پایا ہے کہ قانون سازی بڑی حد تک غیر موثر ہے۔

نیو یارک سٹی لوکل لاء 144 (LL144) تھا۔ منظور 2021 میں، گزشتہ سال 1 جنوری سے نافذ العمل ہوا اور جولائی 2023 سے نافذ ہو چکا ہے۔ قانون کے تحت آجروں سے یہ تقاضہ کیا گیا ہے کہ وہ خود کار روزگار کے فیصلے کے آلات (AEDTs) کا استعمال کرتے ہوئے نسل اور صنفی تعصب کا سالانہ آڈٹ کریں، ان نتائج کو اپنی ویب سائٹس پر شائع کریں، اور نوکری کی پوسٹنگ میں نوٹس شامل کریں کہ وہ ملازمت کے فیصلے کرنے کے لیے ایسے سافٹ ویئر کا استعمال کرتے ہیں۔

کارنیل یونیورسٹی کے محققین، غیر منفعتی جائزہ سروس کنزیومر رپورٹس، اور غیر منفعتی ڈیٹا اینڈ سوسائٹی ریسرچ انسٹی ٹیوٹ کے محققین کا مطالعہ ابھی تک شائع ہونا باقی ہے لیکن اس کے ساتھ اشتراک کیا گیا ہے۔ رجسٹر. اس نے پایا کہ 391 آجروں کے نمونے لیے گئے، صرف 18 نے قانون کے تحت مطلوبہ آڈٹ رپورٹس شائع کیں۔ صرف 13 آجروں (جن میں سے 11 نے آڈٹ رپورٹس بھی شائع کی ہیں) میں ضروری شفافیت کے نوٹس شامل تھے۔

ڈیٹا اینڈ سوسائٹی کے ایک محقق اور مطالعہ کے مصنفین میں سے ایک جیکب میٹکالف نے بتایا کہ LL144 آجروں کو یہ فیصلہ کرنے کے لیے مکمل صوابدید کے قریب گرانٹ دیتا ہے کہ آیا ان کا نظام قانون کے دائرہ کار میں ہے یا نہیں۔ رجسٹر. "اور آجروں کے لیے اس دائرہ کار سے بچنے کے متعدد طریقے ہیں۔"

Metcalf نے ہمیں بتایا کہ LL144 کمپنیوں کو کوئی کارروائی کرنے کی ضرورت نہیں ہے اگر اس کے کسی آڈٹ میں AEDT سے امتیازی نتائج برآمد ہوئے ہیں۔ تاہم، اس کا مطلب یہ نہیں ہے کہ جو کمپنیاں متعصب AEDTs کا استعمال کرتی ہوئی پائی گئی ہیں، وہ ہک پر نہیں ہوں گی۔

Metcalf نے ہمیں بتایا کہ "آڈٹ پوسٹ کرنے والے آجر جو مختلف اثرات دکھاتے ہیں، وہ کارروائی کی دوسری شکلوں کے لیے کھلے ہیں۔" "روزگار میں امتیازی سلوک کے بارے میں دیوانی مقدمے بہت مہنگے ہو سکتے ہیں۔"

Metcalf اور اس کے کئی ساتھی LL144 کے بارے میں ایک دوسرے کاغذ پر کام کر رہے ہیں جو NYC کمپنیوں کے ذریعے استعمال ہونے والے AEDTs کا جائزہ لینے والے آڈیٹرز کے تجربے پر توجہ مرکوز کرتا ہے۔ رجسٹر نے کاغذ دیکھا ہے، جو فی الحال ہم مرتبہ جائزہ کے تحت ہے۔ اس سے پتہ چلتا ہے کہ آڈٹ میں AEDTs کے ذریعہ امتیازی سلوک کے معاملات پائے گئے ہیں۔

Metcalf نے ہمیں بتایا کہ "ہم آڈیٹرز کے ساتھ انٹرویوز سے جانتے ہیں کہ آجروں نے ان آڈٹس کے لیے ادائیگی کی ہے اور پھر نمبر خراب ہونے پر انہیں عوامی طور پر پوسٹ کرنے سے انکار کر دیا ہے،" Metcalf نے ہمیں بتایا۔ "ان کا قانونی مشیر نیو یارک سٹی کے مقابلے میں مساوی روزگار مواقع کمیشن سے زیادہ خوفزدہ ہے۔"

نیو یارک سٹی کا قانون اسی طرح کے قوانین کو اپنانے میں سست روی کا باعث ہے۔

LL144 سے ملتے جلتے قوانین پر دوسرے دائرہ اختیار کے ذریعہ غور کیا گیا ہے۔ وہ تجاویز زیادہ تر رک گئی ہیں کیونکہ قانون ساز اس بات سے آگاہ ہو گئے ہیں کہ AI کی بھرتی کے تعصب کو روکنے کے لیے NYC کی کوشش کارگر ثابت نہیں ہوئی۔

"اسپانسرز [بلوں کے] اپنے ڈھانچے پر دوبارہ غور کر رہے ہیں۔ جہاں تک میں جانتا ہوں اسی طرح کے قوانین پر کوئی کارروائی نہیں ہوئی ہے،‘‘ میٹکالف نے ہمیں بتایا۔ کیلیفورنیا سمجھا اسی طرح کی قانون سازی 2022 میں، جبکہ واشنگٹن ڈی سی اور نیو یارک ریاست نے بھی LL144 جیسی قانون سازی پر غور کیا ہے۔

یورپی یونین کی اے آئی ایکٹ، دسمبر 2023 میں عارضی طور پر اتفاق کیا گیا تھا، ایکٹ کے "میں بھرتی کے عمل میں استعمال ہونے والے AI کو جگہ دیتا ہے۔اعلی خطرہ" قسم، مطلب اس طرح کی مصنوعات کو مارکیٹ تک پہنچنے سے پہلے اور ان کی زندگی بھر میں جائزہ لینے کی ضرورت ہوگی۔ یورپی یونین نے ابھی اپنا قانون پاس کرنا ہے۔

AI میں تعصب رہا ہے۔ اچھی طرح سے قائم اس مقام پر.

HR سافٹ ویئر فرم کا ورک ڈے بھی رہا ہے۔ مقدمہ ان الزامات پر کہ اس کا بھرتی سافٹ ویئر سیاہ فام درخواست دہندگان کے ساتھ امتیازی سلوک کرنے کے لیے استعمال کیا گیا ہے - بالکل وہی چیز جس کا مقابلہ کرنے کے لیے LL144 کو ڈیزائن کیا گیا تھا۔

جب کہ LL144 بڑی حد تک غیر موثر رہا ہے، محققین نے یہ نتیجہ اخذ کیا کہ قانون بہتر ضابطے کی طرف پہلا قدم ہے۔

"ان قوانین پر کام کرنے والا کوئی بھی احتسابی ڈھانچے پر تجربہ کر رہا ہے - ہم ابھی تک نہیں جانتے کہ کیا کام کرتا ہے،" Metcalf نے ہمیں بتایا۔ "تقریباً وہ سب کچھ جو سول سوسائٹی کے ناقدین نے کہا [LL144 کے بارے میں] سچ ثابت ہوا، لیکن ہم نے اس مقالے میں ایسی چیزیں سیکھیں جنہیں دوسرے لوگ [مستقبل کے نفاذ کی کوششوں کے لیے] اٹھا سکتے ہیں۔"

Metcalf نے کہا کہ LL144 سے سیکھی جانے والی سب سے اہم چیزوں میں سے ایک یہ ہے کہ AEDT سافٹ ویئر کے استعمال کا دائرہ وسیع کیا جانا چاہیے۔

LL144 میں زبان خلاصہ ہے، صرف ان صورتوں میں AEDT سافٹ ویئر کے استعمال کی وضاحت کرتی ہے جہاں یہ "روزگار کے فیصلے کرنے کے لیے صوابدیدی فیصلہ سازی میں خاطر خواہ مدد کرنے یا تبدیل کرنے کے لیے استعمال ہوتا ہے۔" "کافی" کا کیا مطلب ہے تشریح پر منحصر ہے۔

اگر مستقبل میں AEDT امتیازی سلوک سے نمٹنے کے لیے بنائے گئے قوانین کو موثر بنانا ہے، تو ہمیں بتایا جاتا ہے، AI ہائرنگ الگورتھم کے استعمال سے متعلق کسی بھی قابلیت کو ختم کرنے کی ضرورت ہے۔

"اگر کوئی نظام اسکور پیش کر رہا ہے، تو یہ دائرہ کار میں ہے۔ مدت، "میٹکالف نے ہمیں بتایا. "آجروں کو صوابدید دینا [یہ فیصلہ کرنے میں کہ آیا ان کا AEDT کا استعمال LL144 کے دائرہ کار میں آتا ہے] ٹیڑھی ترغیبات پیدا کرتا ہے جو حقیقی جوابدہی کو نقصان پہنچاتا ہے جو اس قانون کو حاصل کر سکتا تھا۔" ®