Yapay zekanın işe alımları ön plana çıkarmasını durdurmak için tasarlanan yasanın etkisiz olduğu ortaya çıktı

Yapay zeka işe alım algoritmalarında önyargıyı hedef alan New York City yasasının etkinliği üzerine yapılan bir araştırma, yasanın büyük ölçüde etkisiz olduğunu ortaya çıkardı.

New York Şehri Yerel Kanunu 144 (LL144) şuydu: geçti 2021 yılında yürürlüğe giren bu yasa, geçen yıl 1 Ocak'ta yürürlüğe girdi ve Temmuz 2023 itibarıyla yürürlüğe girdi. Yasa, otomatik istihdam karar araçlarını (AEDT'ler) kullanan işverenlerin, bunları ırk ve cinsiyet ayrımcılığına karşı yıllık olarak denetlemesini, bu sonuçları web sitelerinde yayınlamasını, ve iş ilanlarına istihdam kararları vermek için bu tür yazılımları kullandıklarına dair bildirim ekleyin.

Cornell Üniversitesi'ndeki araştırmacılar, kar amacı gütmeyen inceleme hizmeti Consumer Reports ve kar amacı gütmeyen Veri ve Toplum Araştırma Enstitüsü'ndeki araştırmacıların gerçekleştirdiği çalışma henüz yayınlanmadı ancak araştırmacılarla paylaşıldı. Kayıt. Örneklenen 391 işverenden yalnızca 18'inin kanun uyarınca gerekli denetim raporlarını yayınladığını tespit etti. Yalnızca 13 işveren (bunlardan 11'i denetim raporu da yayınladı) gerekli şeffaflık bildirimlerini içeriyordu.

Data & Society'den araştırmacı ve çalışmanın yazarlarından biri olan Jacob Metcalf, LL144'ün "işverenlere, sistemlerinin yasa kapsamında olup olmadığına karar verme konusunda neredeyse tamamen takdir hakkı tanıdığını" söyledi. Kayıt. "Ve işverenlerin bu kapsamdan kaçmasının birçok yolu var."

Metcalf bize, denetimlerinden birinin AEDT'nin ayrımcı sonuçlara yol açtığını göstermesi durumunda LL144'ün şirketlerin herhangi bir işlem yapmasını gerektirmediğini söyledi. Ancak bu, önyargılı AEDT'ler kullandığı tespit edilen şirketlerin bu durumdan kurtulamayacağı anlamına gelmiyor.

Metcalf bize "Farklı etkiler gösteren bir denetim yayınlayan işverenler diğer eylem biçimlerine açıktır" dedi. "İstihdam ayrımcılığına ilişkin hukuk davaları çok pahalı olabilir."

Metcalf ve birkaç meslektaşı, LL144 hakkında, New York şirketleri tarafından kullanılan AEDT'leri inceleyen denetçilerin deneyimlerine odaklanan ikinci bir makale üzerinde çalışıyor. Kayıt şu anda hakem incelemesi altında olan makaleyi inceledi. Denetimlerde AEDT'ler tarafından ayrımcılık yapıldığı vakalarının tespit edildiği tespit edilmiştir.

Metcalf bize, "Denetçilerle yapılan görüşmelerden, işverenlerin bu denetimler için para ödediğini ve daha sonra rakamlar kötü olduğunda bunları kamuya açıklamayı reddettiğini biliyoruz" dedi. "Hukuk danışmanları Eşit İstihdam Fırsatı Komisyonu'ndan New York City'den daha çok korkuyor."

New York City yasası benzer kuralların benimsenmesini yavaşlatıyor

LL144'e benzer yasalar diğer yargı bölgeleri tarafından da değerlendirilmiştir. Bu teklifler çoğunlukla, yasa koyucuların NYC'nin yapay zeka işe alım önyargısını önleme girişiminin etkili olmadığının farkına varmasıyla durduruldu.

“[Faturaların] sponsorları yapılarını yeniden düşünüyorlar. Bildiğim kadarıyla benzer kanunlarla ilgili herhangi bir işlem yapılmadı” dedi Metcalf. Kaliforniya kabul 2022'de benzer bir yasa çıkarken, Washington DC ve New York eyaleti de LL144 gibi yasalar üzerinde düşündü.

Avrupa Birliği AI YasasıAralık 2023'te geçici olarak kabul edilen, işe alım sürecinde kullanılan yapay zekayı Kanun'un “yüksek risk” kategorisi, anlam bu tür ürünlerin pazara ulaşmadan önce ve yaşam döngüleri boyunca gözden geçirilmesi gerekecektir. AB henüz yasasını çıkarmadı.

Yapay zekadaki önyargı iyi kurulmuş bu noktada.

İK yazılım firması Workday bile dava İşe alım yazılımının Siyah başvuru sahiplerine karşı ayrımcılık yapmak için kullanıldığı iddiaları üzerine; LL144'ün mücadele etmek için tasarlandığı türden bir şey.

LL144 büyük ölçüde etkisiz olsa da araştırmacılar yasanın daha iyi düzenlemeye yönelik ilk adım olduğu sonucuna vardı.

Metcalf bize "Bu yasalar üzerinde çalışan herkes hesap verebilirlik yapıları üzerinde deneyler yapıyor; neyin işe yaradığını henüz bilmiyoruz" dedi. "Sivil toplum eleştirmenlerinin [LL144 hakkında] söylediği neredeyse her şey gerçekleşti, ancak bu yazıda diğer insanların (gelecekteki yaptırım çabaları için) öğrenebilecekleri şeyler öğrendik."

Metcalf, LL144'ten öğrenilebilecek en önemli şeylerden birinin, AEDT yazılımının kapsam dahilindeki kullanımının kapsamının genişletilmesi gerektiği olduğunu söyledi.

LL144'teki dil soyuttur ve AEDT yazılımının kullanımını yalnızca "istihdam kararlarının alınmasında ihtiyari karar verme sürecine önemli ölçüde yardımcı olmak veya bunun yerine geçmek için kullanıldığı" durumlarda tanımlar. "Önemli"nin ne anlama geldiği yoruma bağlıdır.

AEDT ayrımcılığıyla mücadele etmek için gelecekte oluşturulacak yasaların etkili olması için, yapay zeka işe alım algoritmalarının kullanımına ilişkin her türlü şartın kaldırılması gerektiği söylendi.

“Bir sistem puanlama yapıyorsa kapsam dahilindedir. Dönem," dedi Metcalf bize. "İşverenlere takdir yetkisi vermek [AEDT kullanımlarının LL144 kapsamına girip girmediğine karar vermede] bu yasanın başarabileceği fiili hesap verebilirliği baltalayan ters teşvikler yaratıyor." ®

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/