AI 편견 채용을 막기 위해 고안된 법률은 비효율적임이 입증됨

플라톤에 의해 재발행

팔로워 : 0

AI 채용 알고리즘의 편견을 겨냥한 뉴욕시 법률의 효율성에 대한 연구에 따르면 해당 법안은 대체로 효과가 없는 것으로 나타났습니다.

뉴욕시 지방법 144(LL144)는 합격 2021년 1월 2023일부터 발효되어 XNUMX년 XNUMX월부터 시행되었습니다. 이 법에 따라 고용주는 자동 고용 결정 도구(AEDT)를 사용하여 매년 인종 및 성별 편견을 감사하고 해당 결과를 웹 사이트에 게시해야 합니다. 채용 결정을 내리기 위해 그러한 소프트웨어를 사용한다는 사실을 채용 공고에 포함합니다.

코넬 대학교 연구원, 비영리 리뷰 서비스인 컨슈머리포트(Consumer Reports), 비영리 데이터 및 사회 연구소(Data & Society Research Institute)의 연구는 아직 출판되지 않았지만 다음과 공유되었습니다. 등록. 표본으로 추출된 391개의 고용주 중 단 18개만이 법에 따라 요구되는 감사 보고서를 발행한 것으로 나타났습니다. 단 13개의 고용주(그 중 11개는 감사 보고서도 발행)만이 필요한 투명성 공지를 포함했습니다.

LL144는 "고용주가 자신의 시스템이 법의 범위 내에 있는지 결정할 수 있는 거의 완전한 재량권을 부여합니다"라고 Data & Society의 연구원이자 연구 저자 중 한 명인 Jacob Metcalf는 말했습니다. 등록. "그리고 고용주가 그 범위를 벗어날 수 있는 방법은 여러 가지가 있습니다."

Metcalf는 LL144가 감사 결과 AEDT가 차별적인 결과를 가져왔다고 밝혀도 기업이 어떤 조치를 취하도록 요구하지 않는다고 말했습니다. 그렇다고 편향된 AEDT를 사용하는 것으로 밝혀진 회사가 문제에 휘말리지 않을 것이라는 의미는 아닙니다.

Metcalf는 “다른 영향을 보여주는 감사를 게시하는 고용주는 다른 형태의 조치에 열려 있습니다.”라고 말했습니다. “고용차별에 관한 민사소송은 비용이 매우 많이 들 수 있습니다.”

Metcalf와 그의 동료 몇 명은 NYC 회사에서 사용하는 AEDT를 검토하는 감사자의 경험에 초점을 맞춘 LL144에 관한 두 번째 논문을 작성하고 있습니다. 등록 님이 현재 피어 리뷰 중인 논문을 보았습니다. 감사 결과 AEDT에 의한 차별 사례가 발견된 것으로 나타났습니다.

Metcalf는 "우리는 감사관과의 인터뷰를 통해 고용주가 이러한 감사 비용을 지불한 다음 수치가 좋지 않을 때 공개 게시를 거부했다는 사실을 알고 있습니다."라고 말했습니다. “그들의 법률 고문은 뉴욕시보다 평등고용기회위원회(Equal Employment Opportunity Commission)를 더 무서워합니다.”

유사한 규칙의 채택을 늦추는 뉴욕시 법률

LL144와 유사한 법률이 다른 관할권에서도 고려되었습니다. 국회의원들이 AI 채용 편견을 방지하려는 NYC의 시도가 효과적이지 않다는 사실을 알게 되면서 이러한 제안은 대부분 정체되었습니다.

“[법안의] 발의자들은 그들의 구조를 다시 생각하고 있습니다. 내가 아는 한 유사한 법률에 대한 어떠한 조치도 취해지지 않았습니다.”라고 Metcalf는 말했습니다. 캘리포니아 고려 2022년에도 유사한 법안이 발의될 예정이며, 워싱턴 DC와 뉴욕주도 LL144와 같은 법안을 검토하고 있습니다.

유럽 연합 AI법, 2023년 XNUMX월 잠정 합의된 이 법안은 채용 과정에 사용되는 AI를 해당 법률의 “위험" 범주, 의미 이러한 제품은 시장에 출시되기 전과 수명주기 전반에 걸쳐 검토가 필요합니다. EU는 아직 해당 법안을 통과시키지 못했습니다.

AI의 편견은 잘 설립 이 지점에서.

HR 소프트웨어 회사인 Workday는 심지어 소송을 제기 채용 소프트웨어가 흑인 지원자를 차별하는 데 사용되었다는 주장이 제기되었습니다. 이는 LL144가 맞서 싸우기 위해 고안된 바로 그 종류의 일입니다.

LL144는 대체로 효과가 없었지만 연구원들은 이 법이 더 나은 규제를 향한 첫 번째 단계라고 결론지었습니다.

Metcalf는 "이러한 법률을 연구하는 사람은 누구나 책임 구조를 실험하고 있습니다. 우리는 아직 어떤 것이 효과적인지 모릅니다."라고 말했습니다. "시민 사회 비평가들이 [LL144에 대해] 말한 거의 모든 것이 실현되었지만, 우리는 이 논문에서 다른 사람들이 [향후 집행 노력을 위해] 선택할 수 있는 내용을 배웠습니다."

Metcalf는 LL144에서 배울 수 있는 가장 중요한 것 중 하나는 AEDT 소프트웨어의 적용 범위가 넓어져야 한다는 것이라고 말했습니다.

LL144의 언어는 추상적이며 "고용 결정을 내리는 재량적 의사 결정을 실질적으로 지원하거나 대체하는 데 사용되는" 경우에만 AEDT 소프트웨어의 사용을 정의합니다. "실질적"이라는 의미는 해석에 달려 있습니다.

AEDT 차별을 근절하기 위해 만들어진 미래 법률이 효과적이려면 AI 채용 알고리즘 사용에 대한 모든 자격이 삭제되어야 한다고 들었습니다.

“시스템이 점수를 렌더링하는 경우 범위 내에 있습니다. 기간”이라고 Metcalf가 말했습니다. "고용주에게 [AEDT 사용이 LL144의 범위에 속하는지 여부를 결정할 때] 재량권을 부여하는 것은 이 법이 달성할 수 있는 실제 책임을 약화시키는 왜곡된 인센티브를 생성합니다." ®