旨在阻止人工智能偏见招聘的法律被证明无效

一项针对纽约市针对人工智能招聘算法偏见的法律有效性的研究发现，该立法基本上无效。

纽约市地方法 144 (LL144) 是 通过 于2021年生效，于去年1月2023日生效，并于XNUMX年XNUMX月起执行。该法律要求雇主使用自动就业决策工具（AEDT）每年对其种族和性别偏见进行审计，并在其网站上发布这些结果，并在招聘启事中注明他们使用此类软件做出雇佣决定。

康奈尔大学、非营利评论服务机构消费者报告和非营利数据与社会研究所的研究人员进行的这项研究尚未发表，但已与 注册。调查发现，在抽样的 391 家雇主中，只有 18 家按照法律要求公布了审计报告。只有 13 家雇主（其中 11 家还发布了审计报告）包含了必要的透明度通知。

数据与社会研究员、该研究的作者之一雅各布·梅特卡夫 (Jacob Metcalf) 表示，LL144“赋予雇主几乎完全的自由裁量权，以决定他们的系统是否在法律范围内” 注册。 “雇主有多种方法可以逃避这个范围。”

梅特卡夫告诉我们，如果 LL144 的一项审计显示 AEDT 导致了歧视性结果，则 LLXNUMX 并不要求公司采取任何行动。然而，这并不意味着被发现使用有偏见的 AEDT 的公司不会陷入困境。

梅特卡夫告诉我们：“发布显示不同影响的审计的雇主可以采取其他形式的行动。” “有关就业歧视的民事诉讼可能非常昂贵。”

Metcalf 和他的几位同事正在撰写有关 LL144 的第二篇论文，该论文重点关注审计员审查纽约市公司使用的 AEDT 的经验。 注册 已查看该论文，该论文目前正在接受同行评审。它发现审计发现了 AEDT 的歧视案例。

梅特卡夫告诉我们：“我们从审计师的采访中得知，雇主已经支付了这些审计费用，但在审计结果不佳时又拒绝公开发布审计结果。” “他们的法律顾问比纽约市更害怕平等就业机会委员会。”

纽约市法律减缓了类似规则的采用

其他司法管辖区也考虑了类似于 LL144 的法律。随着立法者意识到纽约市防止人工智能招聘偏见的尝试并未奏效，这些提案大多陷入停滞。

“[法案]的发起者正在重新考虑其结构。据我所知，还没有针对类似法律采取任何行动，”梅特卡夫告诉我们。加利福尼亚州 考虑 2022 年类似的立法，而华盛顿特区和纽约州也考虑了 LL144 等立法。

欧盟的 人工智能法于 2023 年 XNUMX 月暂时同意，将招聘过程中使用的人工智能纳入该法案的“高风险“ 类别， 意 此类产品在进入市场之前及其整个生命周期都需要接受审查。欧盟尚未通过其法律。

人工智能中的偏见 确立 在此刻。

人力资源软件公司 Workday 甚至 起诉 指控其招聘软件被用来歧视黑人求职者——这正是 LL144 旨在打击的事情。

虽然 LL144 基本上没有效果，但研究人员得出的结论是，该法律是迈向更好监管的第一步。

“制定这些法律的任何人都在尝试问责结构——我们还不知道什么有效，”梅特卡夫告诉我们。 “公民社会批评者所说的几乎所有内容（关于 LL144）都已成为现实，但我们在本文中学到了其他人可以借鉴的东西（用于未来的执法工作）。”

Metcalf 表示，可以从 LL144 学到的最重要的事情之一是，应扩大 AEDT 软件的涵盖使用范围。

LL144 中的语言是抽象的，仅定义了 AEDT 软件在“用于实质上协助或取代做出雇佣决策的自由裁量决策”的情况下的使用。 “实质性”的含义取决于解释。

我们被告知，如果未来为打击 AEDT 歧视而制定的法律要有效，就需要放弃使用人工智能招聘算法的任何资格。

“如果系统正在渲染分数，那么它就在范围内。就这样，”梅特卡夫告诉我们。 “给予雇主自由裁量权（决定他们对 AEDT 的使用是否属于 LL144 的范围）会产生不正当的激励，从而破坏了该法律本可以实现的实际责任。” ®

• SEO 支持的内容和 PR 分发。 今天得到放大。
• PlatoData.Network 垂直生成人工智能。 赋予自己力量。 访问这里。
• 柏拉图爱流。 Web3 智能。 知识放大。 访问这里。
• 柏拉图ESG。 碳， 清洁科技, 能源， 环境， 太阳能， 废物管理。 访问这里。
• 柏拉图健康。 生物技术和临床试验情报。 访问这里。
• Sumber: https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/