กฎหมายที่ออกแบบมาเพื่อหยุดการจ้างงานที่มีอคติด้าน AI พิสูจน์แล้วว่าไม่ได้ผล

กฎหมายที่ออกแบบมาเพื่อหยุดการจ้างงานที่มีอคติด้าน AI พิสูจน์แล้วว่าไม่ได้ผล

ประทับเวลา: 22 มกราคม 2024 8:30 น
โหนดต้นทาง: 3079132

การศึกษาประสิทธิผลของกฎหมายในนครนิวยอร์กที่มุ่งเป้าไปที่อคติในอัลกอริทึมการจ้างงาน AI พบว่ากฎหมายดังกล่าวไม่ได้ผลมากนัก

กฎหมายท้องถิ่นนครนิวยอร์ก 144 (LL144) คือ ผ่าน ในปี 2021 มีผลบังคับใช้เมื่อวันที่ 1 มกราคมปีที่แล้ว และมีผลบังคับใช้ตั้งแต่เดือนกรกฎาคม 2023 กฎหมายกำหนดให้นายจ้างใช้เครื่องมือตัดสินใจการจ้างงานอัตโนมัติ (AEDT) ในการตรวจสอบพวกเขาเป็นประจำทุกปีเกี่ยวกับเชื้อชาติและอคติทางเพศ เผยแพร่ผลลัพธ์เหล่านั้นบนเว็บไซต์ของพวกเขา และรวมประกาศไว้ในประกาศรับสมัครงานว่าพวกเขาใช้ซอฟต์แวร์ดังกล่าวในการตัดสินใจจ้างงาน

การศึกษาจากนักวิจัยที่ Cornell University, Consumer Reports ที่ไม่แสวงหาผลกำไร และสถาบันวิจัย Data & Society ที่ไม่แสวงหาผลกำไร ยังไม่ได้เผยแพร่ แต่ได้รับการแชร์กับ ลงทะเบียน. พบว่าจากนายจ้าง 391 รายที่สุ่มตัวอย่าง มีเพียง 18 รายเท่านั้นที่เผยแพร่รายงานการตรวจสอบตามที่กฎหมายกำหนด มีนายจ้างเพียง 13 ราย (11 รายในจำนวนนี้เผยแพร่รายงานการตรวจสอบด้วย) รวมประกาศเพื่อความโปร่งใสที่จำเป็น

LL144 “ให้นายจ้างใช้ดุลยพินิจเกือบทั้งหมดในการตัดสินใจว่าระบบของพวกเขาอยู่ภายใต้ขอบเขตของกฎหมายหรือไม่” Jacob Metcalf นักวิจัยจาก Data & Society และหนึ่งในผู้เขียนการศึกษากล่าว ลงทะเบียน. “และมีหลายวิธีสำหรับนายจ้างที่จะหลีกเลี่ยงขอบเขตนั้น”

Metcalf บอกเราว่า LL144 ไม่ได้กำหนดให้บริษัทดำเนินการใดๆ หากการตรวจสอบรายการใดรายการหนึ่งแสดงให้เห็นว่า AEDT นำไปสู่ผลลัพธ์ที่เลือกปฏิบัติ นั่นไม่ได้หมายความว่าบริษัทต่างๆ ที่ถูกพบว่าใช้ AEDT แบบเอนเอียงจะไม่ติดอยู่

“นายจ้างที่โพสต์การตรวจสอบซึ่งแสดงผลกระทบที่แตกต่างกัน เปิดรับการดำเนินการในรูปแบบอื่น” เมทคาล์ฟบอกกับเรา “การฟ้องร้องทางแพ่งเกี่ยวกับการเลือกปฏิบัติในการจ้างงานอาจมีค่าใช้จ่ายสูงมาก”

เมตคาล์ฟและเพื่อนร่วมงานของเขาหลายคนกำลังทำงานในรายงานฉบับที่สองเกี่ยวกับ LL144 ซึ่งมุ่งเน้นไปที่ประสบการณ์ของผู้ตรวจสอบที่ตรวจสอบ AEDT ที่บริษัทในนิวยอร์คใช้ ลงทะเบียน ได้ดูรายงานซึ่งขณะนี้อยู่ระหว่างการตรวจสอบโดยผู้ทรงคุณวุฒิ พบว่าการตรวจสอบพบกรณีการเลือกปฏิบัติโดย AEDT

“เรารู้จากการสัมภาษณ์ผู้ตรวจสอบบัญชีว่านายจ้างจ่ายเงินสำหรับการตรวจสอบเหล่านี้แล้วจึงปฏิเสธที่จะโพสต์ต่อสาธารณะเมื่อตัวเลขไม่ดี” เมทคาล์ฟบอกเรา “ที่ปรึกษากฎหมายของพวกเขากลัวคณะกรรมการโอกาสการจ้างงานที่เท่าเทียมกันมากกว่านิวยอร์กซิตี้”

กฎหมายนครนิวยอร์กชะลอการใช้กฎที่คล้ายกัน

กฎหมายที่คล้ายกับ LL144 ได้รับการพิจารณาโดยเขตอำนาจศาลอื่น ข้อเสนอเหล่านี้ส่วนใหญ่หยุดชะงักเนื่องจากฝ่ายนิติบัญญัติตระหนักว่าความพยายามของ NYC ในการป้องกันอคติในการจ้างงาน AI ไม่ได้ผล

“ผู้สนับสนุน [ร่างกฎหมาย] กำลังทบทวนโครงสร้างของพวกเขาใหม่ เท่าที่ฉันทราบ ยังไม่มีการดำเนินการใด ๆ ต่อกฎหมายที่คล้ายกัน” เมทคาล์ฟบอกเรา แคลิฟอร์เนีย ถือว่า กฎหมายที่คล้ายกันในปี 2022 ในขณะที่วอชิงตัน ดี.ซี. และรัฐนิวยอร์กก็ได้ไตร่ตรองกฎหมายเช่น LL144 เช่นกัน

สหภาพยุโรป พระราชบัญญัติ AIซึ่งตกลงกันชั่วคราวในเดือนธันวาคม พ.ศ. 2023 ให้นำ AI ไปใช้ในกระบวนการสรรหาบุคลากรในพระราชบัญญัติ “มีความเสี่ยงสูง" หมวดหมู่, ความหมาย ผลิตภัณฑ์ดังกล่าวจะต้องได้รับการตรวจสอบก่อนออกสู่ตลาดและตลอดวงจรชีวิต สหภาพยุโรปยังไม่ผ่านกฎหมายของตน

อคติใน AI ได้รับ จัดตั้งขึ้นรวมทั้ง ณ จุดนี้.

บริษัทซอฟต์แวร์ด้านทรัพยากรบุคคล Workday ก็มีอยู่แล้ว ฟ้อง เหนือข้อกล่าวหาว่ามีการใช้ซอฟต์แวร์จัดหางานเพื่อเลือกปฏิบัติต่อผู้สมัครผิวดำ ซึ่งเป็นสิ่งที่ LL144 ได้รับการออกแบบมาเพื่อต่อสู้อย่างแน่นอน

แม้ว่า LL144 จะไม่มีประสิทธิภาพมากนัก แต่นักวิจัยก็สรุปว่ากฎหมายดังกล่าวเป็นก้าวแรกสู่การควบคุมที่ดีขึ้น

“ใครก็ตามที่ทำงานเกี่ยวกับกฎหมายเหล่านี้กำลังทดลองโครงสร้างความรับผิดชอบ เรายังไม่รู้ว่าอะไรใช้ได้ผล” เมทคาล์ฟบอกเรา “เกือบทุกอย่างที่นักวิจารณ์ภาคประชาสังคมพูด [เกี่ยวกับ LL144] เป็นจริง แต่เราได้เรียนรู้สิ่งต่าง ๆ ในบทความนี้ที่คนอื่นสามารถรับได้ [สำหรับความพยายามบังคับใช้ในอนาคต]”

เมทคาล์ฟกล่าวว่าสิ่งที่สำคัญที่สุดอย่างหนึ่งที่สามารถเรียนรู้ได้จาก LL144 ก็คือ ขอบเขตของสิ่งที่ครอบคลุมถึงการใช้ซอฟต์แวร์ AEDT ควรได้รับการขยายให้กว้างขึ้น

ภาษาใน LL144 ถือเป็นนามธรรม โดยกำหนดเฉพาะการใช้ซอฟต์แวร์ AEDT ในกรณีที่ "ใช้เพื่อช่วยเหลือหรือแทนที่การตัดสินใจในการตัดสินใจในการจ้างงาน" ความหมายของ "สาระสำคัญ" ขึ้นอยู่กับการตีความ

หากกฎหมายในอนาคตที่สร้างขึ้นเพื่อต่อสู้กับการเลือกปฏิบัติของ AEDT มีผลบังคับใช้ เราก็ได้รับแจ้งว่าคุณสมบัติใดๆ ในการใช้อัลกอริธึมการจ้างงาน AI จะต้องถูกยกเลิก

“หากระบบกำลังแสดงผลคะแนน ก็ถือว่าอยู่ในขอบเขต ระยะเวลา” เมทคาล์ฟบอกเรา “การให้ดุลยพินิจแก่นายจ้าง [ในการตัดสินใจว่าการใช้ AEDT ของพวกเขาอยู่ภายใต้ขอบเขตของ LL144 หรือไม่] จะสร้างแรงจูงใจที่บิดเบือนซึ่งบ่อนทำลายความรับผิดชอบที่แท้จริงที่กฎหมายนี้สามารถบรรลุได้” ®

ประทับเวลา:

เพิ่มเติมจาก ลงทะเบียน