एआई पक्षपातपूर्ण नियुक्ति को रोकने के लिए बनाया गया कानून अप्रभावी साबित होता है

एआई पक्षपातपूर्ण नियुक्ति को रोकने के लिए बनाया गया कानून अप्रभावी साबित होता है

समय टिकट: 22 जनवरी, 2024 शाम 8:30 बजे
स्रोत नोड: 3079132

एआई भर्ती एल्गोरिदम में पूर्वाग्रह को लक्षित करने वाले न्यूयॉर्क शहर के कानून की प्रभावशीलता पर एक अध्ययन में पाया गया है कि कानून काफी हद तक अप्रभावी है।

न्यूयॉर्क शहर स्थानीय कानून 144 (एलएल144) था पारित कर दिया 2021 में, पिछले साल 1 जनवरी को लागू हुआ और जुलाई 2023 तक लागू किया गया है। कानून में नियोक्ताओं को स्वचालित रोजगार निर्णय उपकरण (एईडीटी) का उपयोग करके नस्ल और लिंग पूर्वाग्रह के लिए सालाना ऑडिट करने, उन परिणामों को अपनी वेबसाइटों पर प्रकाशित करने की आवश्यकता होती है। और नौकरी पोस्टिंग में नोटिस शामिल करें कि वे रोजगार संबंधी निर्णय लेने के लिए ऐसे सॉफ़्टवेयर का उपयोग करते हैं।

कॉर्नेल यूनिवर्सिटी, गैर-लाभकारी समीक्षा सेवा उपभोक्ता रिपोर्ट्स और गैर-लाभकारी डेटा एंड सोसाइटी रिसर्च इंस्टीट्यूट के शोधकर्ताओं का अध्ययन अभी तक प्रकाशित नहीं हुआ है, लेकिन इसके साथ साझा किया गया था रजिस्टर. इसमें पाया गया कि 391 नियोक्ताओं में से केवल 18 ने कानून के तहत आवश्यक ऑडिट रिपोर्ट प्रकाशित की थी। केवल 13 नियोक्ताओं (जिनमें से 11 ने ऑडिट रिपोर्ट भी प्रकाशित की) ने आवश्यक पारदर्शिता नोटिस शामिल किए।

डेटा एंड सोसाइटी के एक शोधकर्ता और अध्ययन के लेखकों में से एक, जैकब मेटकाफ ने बताया, LL144 "नियोक्ताओं को यह तय करने का पूर्ण विवेक देता है कि उनका सिस्टम कानून के दायरे में है या नहीं।" रजिस्टर. "और नियोक्ताओं के पास उस दायरे से बचने के कई तरीके हैं।"

मेटकाफ ने हमें बताया कि एलएल144 को कंपनियों को कोई कार्रवाई करने की आवश्यकता नहीं है यदि उसके किसी ऑडिट से पता चलता है कि एईडीटी के कारण भेदभावपूर्ण परिणाम हुए हैं। हालाँकि, इसका मतलब यह नहीं है कि पक्षपातपूर्ण एईडीटी का उपयोग करने वाली कंपनियों को सज़ा नहीं होगी।

मेटकाफ ने हमें बताया, "अलग-अलग प्रभाव दिखाने वाला ऑडिट पोस्ट करने वाले नियोक्ता अन्य प्रकार की कार्रवाई के लिए तैयार हैं।" "रोजगार भेदभाव के बारे में सिविल मुकदमे बहुत महंगे हो सकते हैं।"

मेटकाफ और उनके कई सहयोगी एलएल144 के बारे में दूसरे पेपर पर काम कर रहे हैं जो एनवाईसी कंपनियों द्वारा उपयोग किए जाने वाले एईडीटी की समीक्षा करने वाले लेखा परीक्षकों के अनुभव पर केंद्रित है। रजिस्टर पेपर देखा है, जो वर्तमान में सहकर्मी समीक्षा के अधीन है। इसमें पाया गया है कि ऑडिट में एईडीटी द्वारा भेदभाव के मामले पाए गए हैं।

मेटकाफ ने हमें बताया, "ऑडिटरों के साथ साक्षात्कार से हमें पता चला है कि नियोक्ताओं ने इन ऑडिट के लिए भुगतान किया है और फिर खराब आंकड़े आने पर उन्हें सार्वजनिक रूप से पोस्ट करने से मना कर दिया है।" "उनके कानूनी सलाहकार न्यूयॉर्क शहर की तुलना में समान रोजगार अवसर आयोग से अधिक डरते हैं।"

न्यूयॉर्क शहर का कानून समान नियमों को अपनाने को धीमा कर रहा है

एलएल144 के समान कानूनों पर अन्य न्यायालयों द्वारा विचार किया गया है। वे प्रस्ताव ज्यादातर रुक गए हैं क्योंकि कानून निर्माताओं को पता चल गया है कि एआई भर्ती पूर्वाग्रह को रोकने के लिए एनवाईसी का प्रयास प्रभावी नहीं रहा है।

“[बिलों के] प्रायोजक अपनी संरचना पर पुनर्विचार कर रहे हैं। जहां तक ​​मेरी जानकारी है, समान कानूनों पर कोई कार्रवाई नहीं हुई है,'' मेटकाफ ने हमें बताया। कैलिफोर्निया माना 2022 में इसी तरह का कानून, जबकि वाशिंगटन डीसी और न्यूयॉर्क राज्य ने भी LL144 जैसे कानून पर विचार किया है।

यूरोपीय संघ का एआई एक्टदिसंबर 2023 में अनंतिम रूप से सहमति हुई, भर्ती प्रक्रिया में एआई का उपयोग अधिनियम के "भारी जोखिम" वर्ग, अर्थ ऐसे उत्पादों को बाज़ार में पहुंचने से पहले और उनके पूरे जीवनचक्र के दौरान समीक्षा करने की आवश्यकता होगी। यूरोपीय संघ को अभी भी अपना कानून पारित करना बाकी है।

एआई में पूर्वाग्रह रहा है अच्छी तरह से स्थापित इस समय।

एचआर सॉफ्टवेयर फर्म वर्कडे भी हो चुकी है sued इन आरोपों पर कि इसके भर्ती सॉफ़्टवेयर का उपयोग काले आवेदकों के साथ भेदभाव करने के लिए किया गया है - ठीक उसी प्रकार की चीज़ जिसका मुकाबला करने के लिए LL144 को डिज़ाइन किया गया था।

जबकि एलएल144 काफी हद तक अप्रभावी रहा है, शोधकर्ताओं ने निष्कर्ष निकाला कि कानून बेहतर विनियमन की दिशा में पहला कदम है।

मेटकाफ ने हमें बताया, "इन कानूनों पर काम करने वाला कोई भी व्यक्ति जवाबदेही संरचनाओं पर प्रयोग कर रहा है - हम अभी तक नहीं जानते कि क्या काम करता है।" "नागरिक समाज के आलोचकों ने [एलएल144 के बारे में] जो कुछ भी कहा वह लगभग सच हो गया है, लेकिन हमने इस पेपर में ऐसी चीजें सीखीं जिन्हें अन्य लोग [भविष्य के प्रवर्तन प्रयासों के लिए] सीख सकते हैं।"

मेटकाफ ने कहा, सबसे महत्वपूर्ण चीजों में से एक जो एलएल144 से सीखी जा सकती है, वह यह है कि एईडीटी सॉफ्टवेयर के कवर किए गए उपयोग का दायरा व्यापक किया जाना चाहिए।

एलएल144 में भाषा अमूर्त है, केवल उन मामलों में एईडीटी सॉफ्टवेयर के उपयोग को परिभाषित करती है जहां इसका उपयोग "रोजगार निर्णय लेने के लिए विवेकाधीन निर्णय लेने में काफी सहायता या प्रतिस्थापित करने के लिए किया जाता है।" "पर्याप्त" का अर्थ व्याख्या पर निर्भर है।

हमें बताया गया है कि अगर एईडीटी भेदभाव से निपटने के लिए बनाए गए भविष्य के कानूनों को प्रभावी बनाना है, तो एआई हायरिंग एल्गोरिदम के उपयोग पर किसी भी योग्यता को हटा देना होगा।

“यदि कोई सिस्टम स्कोर प्रदान कर रहा है, तो यह दायरे में है। अवधि,'मेटकाफ ने हमें बताया। "नियोक्ताओं को विवेकाधिकार देना [यह तय करने में कि क्या उनका एईडीटी का उपयोग एलएल144 के दायरे में आता है] विकृत प्रोत्साहन पैदा करता है जो इस कानून द्वारा प्राप्त की जा सकने वाली वास्तविक जवाबदेही को कमजोर करता है।" ®

समय टिकट:

से अधिक रजिस्टर