Undang-undang yang dirancang untuk menghentikan perekrutan yang membiaskan AI terbukti tidak efektif

Undang-undang yang dirancang untuk menghentikan perekrutan yang membiaskan AI terbukti tidak efektif

Stempel Waktu: 22 Januari 2024 8:30
Node Sumber: 3079132

Sebuah studi mengenai efektivitas undang-undang Kota New York yang menargetkan bias dalam algoritma perekrutan AI menemukan bahwa undang-undang tersebut sebagian besar tidak efektif.

Hukum Setempat Kota New York 144 (LL144) tadinya Lulus pada tahun 2021, mulai berlaku sejak 1 Januari tahun lalu dan telah diberlakukan mulai Juli 2023. Undang-undang tersebut mewajibkan pemberi kerja yang menggunakan alat pengambilan keputusan ketenagakerjaan otomatis (AEDT) untuk mengaudit mereka setiap tahun untuk mengetahui bias ras dan gender, mempublikasikan hasil tersebut di situs web mereka, dan menyertakan pemberitahuan dalam lowongan pekerjaan bahwa mereka menggunakan perangkat lunak tersebut untuk membuat keputusan pekerjaan.

Studi yang dilakukan oleh para peneliti di Cornell University, layanan ulasan nirlaba Consumer Reports, dan Data & Society Research Institute nirlaba, belum dipublikasikan tetapi telah dibagikan kepada Pendaftaran. Ditemukan bahwa dari 391 perusahaan yang dijadikan sampel, hanya 18 perusahaan yang telah menerbitkan laporan audit yang diwajibkan oleh undang-undang. Hanya 13 perusahaan (11 di antaranya juga menerbitkan laporan audit) yang menyertakan pemberitahuan transparansi yang diperlukan.

LL144 “memberikan keleluasaan total bagi pengusaha untuk memutuskan apakah sistem mereka berada dalam lingkup hukum,” kata Jacob Metcalf, peneliti di Data & Society dan salah satu penulis studi tersebut. Pendaftaran. “Dan ada banyak cara bagi pengusaha untuk menghindari hal tersebut.”

Metcalf memberi tahu kami bahwa LL144 tidak mengharuskan perusahaan mengambil tindakan apa pun jika salah satu auditnya menunjukkan AEDT telah menimbulkan hasil yang diskriminatif. Namun hal ini tidak berarti bahwa perusahaan yang diketahui menggunakan AEDT yang bias tidak akan terkena dampaknya.

“Perusahaan yang melaporkan audit yang menunjukkan dampak berbeda terbuka terhadap bentuk tindakan lain,” kata Metcalf kepada kami. “Tuntutan hukum perdata mengenai diskriminasi pekerjaan bisa sangat mahal.”

Metcalf dan beberapa rekannya sedang mengerjakan makalah kedua tentang LL144 yang berfokus pada pengalaman auditor meninjau AEDT yang digunakan oleh perusahaan NYC. Pendaftaran telah melihat makalah tersebut, yang saat ini sedang dalam tinjauan sejawat. Laporan ini menemukan bahwa audit telah menemukan kasus-kasus diskriminasi yang dilakukan oleh AEDT.

“Kami mengetahui dari wawancara dengan auditor bahwa perusahaan telah membayar untuk audit ini dan kemudian menolak untuk mempublikasikannya secara publik ketika jumlahnya buruk,” kata Metcalf kepada kami. “Penasihat hukum mereka lebih takut terhadap Equal Employment Opportunity Commission dibandingkan New York City.”

Undang-undang Kota New York memperlambat penerapan peraturan serupa

Undang-undang serupa dengan LL144 telah dipertimbangkan oleh yurisdiksi lain. Proposal tersebut sebagian besar terhenti karena anggota parlemen menyadari bahwa upaya NYC untuk mencegah bias perekrutan AI tidak efektif.

“Sponsor [RUU tersebut] sedang memikirkan kembali strukturnya. Sejauh yang saya tahu belum ada tindakan apa pun terhadap undang-undang serupa,” kata Metcalf kepada kami. Kalifornia dianggap undang-undang serupa pada tahun 2022, sementara Washington DC dan negara bagian New York juga telah mempertimbangkan undang-undang seperti LL144.

Uni Eropa UU AI, yang disetujui sementara pada bulan Desember 2023, menempatkan AI yang digunakan dalam proses perekrutan dalam UU “berisiko tinggi” kategori, makna produk-produk tersebut perlu ditinjau ulang sebelum dipasarkan dan sepanjang siklus hidupnya. UE belum mengesahkan undang-undang tersebut.

Bias dalam AI telah terjadi mapan pada saat ini.

Perusahaan perangkat lunak HR Workday bahkan telah melakukannya menggugat atas tuduhan bahwa perangkat lunak rekrutmennya telah digunakan untuk mendiskriminasi pelamar kulit hitam – hal yang dirancang untuk diberantas oleh LL144.

Meskipun LL144 sebagian besar tidak efektif, para peneliti menyimpulkan bahwa undang-undang tersebut merupakan langkah pertama menuju regulasi yang lebih baik.

“Siapa pun yang mengerjakan undang-undang ini sedang bereksperimen dengan struktur akuntabilitas – kami belum tahu mana yang berhasil,” kata Metcalf kepada kami. “Hampir semua yang dikatakan oleh para kritikus masyarakat sipil [tentang LL144] menjadi kenyataan, namun kami belajar banyak hal dalam makalah ini yang dapat diambil oleh orang lain [untuk upaya penegakan hukum di masa depan].”

Salah satu hal terpenting yang dapat dipelajari dari LL144, kata Metcalf, adalah bahwa cakupan penggunaan perangkat lunak AEDT harus diperluas.

Bahasa dalam LL144 bersifat abstrak, hanya mendefinisikan penggunaan perangkat lunak AEDT jika perangkat lunak tersebut “digunakan untuk secara substansial membantu atau menggantikan pengambilan keputusan diskresi dalam pengambilan keputusan ketenagakerjaan.” Apa yang dimaksud dengan “substansial” tergantung pada penafsirannya.

Agar undang-undang di masa depan yang dibuat untuk memerangi diskriminasi AEDT bisa efektif, kami diberitahu bahwa kualifikasi apa pun dalam penggunaan algoritme perekrutan AI harus dihilangkan.

“Jika suatu sistem memberikan skor, maka sistem tersebut berada dalam cakupannya. Titik,” kata Metcalf kepada kami. “Memberikan keleluasaan kepada pengusaha [dalam memutuskan apakah penggunaan AEDT termasuk dalam cakupan LL144] akan menciptakan insentif buruk yang melemahkan akuntabilitas sebenarnya yang dapat dicapai oleh undang-undang ini.” ®

Stempel Waktu:

Lebih dari Pendaftaran