Legea concepută pentru a opri angajarea care influențează AI se dovedește ineficientă

Un studiu privind eficacitatea unei legi din New York care vizează părtinirea în algoritmii de angajare AI a constatat că legislația este în mare măsură ineficientă.

Legea locală 144 din New York (LL144) a fost Trecut în 2021, a intrat în vigoare la 1 ianuarie anul trecut și a fost aplicată începând cu iulie 2023. Legea cere angajatorilor care folosesc instrumente automate de decizie de angajare (AEDT) să le auditeze anual pentru părtinire rasială și de gen, să publice acele rezultate pe site-urile lor web, și să includă în anunțurile de locuri de muncă o notificare că folosesc astfel de software pentru a lua decizii de angajare.

Studiul de la cercetătorii de la Universitatea Cornell, serviciul de recenzii nonprofit Consumer Reports și Institutul nonprofit de cercetare Data & Society, nu a fost încă publicat, dar a fost distribuit cu Registrul. A constatat că din 391 de angajatori incluși în eșantion, doar 18 au publicat rapoarte de audit impuse de lege. Doar 13 angajatori (dintre care 11 au publicat și rapoarte de audit) au inclus notificările de transparență necesare.

LL144 „oferă o discreție aproape totală angajatorilor de a decide dacă sistemul lor este în domeniul de aplicare al legii”, a declarat Jacob Metcalf, cercetător la Data & Society și unul dintre autorii studiului. Registrul. „Și există mai multe modalități prin care angajatorii pot scăpa de acest scop.”

Metcalf ne-a spus că LL144 nu solicită companiilor să ia nicio măsură dacă unul dintre auditurile sale arată că un AEDT a dus la rezultate discriminatorii. Asta nu înseamnă că companiile despre care se găsește că folosesc AEDT părtinitoare nu vor fi totuși pe cârlig.

„Angajatorii care postează un audit care arată un impact disparat sunt deschiși altor forme de acțiune”, ne-a spus Metcalf. „Procesele civile privind discriminarea în muncă pot fi foarte costisitoare.”

Metcalf și câțiva dintre colegii săi lucrează la o a doua lucrare despre LL144, care se concentrează pe experiența auditorilor care examinează AEDT-urile utilizate de companiile din New York. Registrul a vizualizat lucrarea, care este în prezent în curs de evaluare inter pares. Constată că auditurile au constatat cazuri de discriminare de către AEDT.

„Știm din interviurile cu auditorii că angajatorii au plătit pentru aceste audituri și apoi au refuzat să le posteze public atunci când cifrele sunt proaste”, ne-a spus Metcalf. „Consilierul lor juridic este mai speriat de Comisia pentru șanse egale în muncă decât de New York.”

Legea orașului New York încetinește adoptarea unor reguli similare

Legi similare cu LL144 au fost luate în considerare de alte jurisdicții. Propunerile respective au stagnat în cea mai mare parte, deoarece parlamentarii au devenit conștienți de faptul că încercarea NYC de a preveni părtinirea angajării AI nu a fost eficientă.

„Sponsorii [facturilor] își regândesc structura. Din câte știu, nu s-a luat nicio acțiune cu privire la legi similare”, ne-a spus Metcalf. California luate în considerare legislație similară în 2022, în timp ce Washington DC și statul New York s-au gândit și la o legislație precum LL144.

Uniunea Europeană AI Act, convenit provizoriu în decembrie 2023, plasează IA utilizată în procesul de recrutare în „Risc ridicatcategoria, sens astfel de produse vor trebui revizuite înainte de a ajunge pe piață și pe tot parcursul ciclului lor de viață. UE nu a adoptat încă legea.

Prejudecata în AI a fost bine stabilit in acest punct.

Firma de software de resurse umane Workday chiar a fost dat în judecată din cauza acuzațiilor că software-ul său de recrutare a fost folosit pentru a discrimina candidații de culoare – exact genul de lucru pentru care LL144 a fost conceput pentru a combate.

În timp ce LL144 a fost în mare măsură ineficient, cercetătorii au concluzionat că legea este un prim pas către o mai bună reglementare.

„Oricine lucrează la aceste legi experimentează structurile de responsabilitate – nu știm încă ce funcționează”, ne-a spus Metcalf. „Aproape tot ce au spus criticii societății civile [despre LL144] s-a adeverit, dar am aflat lucruri în această lucrare pe care alți oameni le pot prelua [pentru eforturile viitoare de aplicare a legii]”.

Unul dintre cele mai importante lucruri care ar putea fi învățate din LL144, a spus Metcalf, este că domeniul de aplicare a ceea ce constituie utilizarea acoperită a software-ului AEDT ar trebui extins.

Limbajul din LL144 este abstract, definind doar utilizarea software-ului AEDT în cazurile în care este „utilizat pentru a ajuta sau înlocui în mod substanțial luarea deciziilor discreționare pentru luarea deciziilor de angajare”. Ceea ce înseamnă „substanțial” depinde de interpretare.

Pentru ca viitoarele legi create pentru a combate discriminarea AEDT vor fi eficiente, ni se spune, orice calificare cu privire la utilizarea algoritmilor de angajare AI trebuie renunțată.

„Dacă un sistem redă un scor, acesta este în domeniul de aplicare. Perioada”, ne-a spus Metcalf. „Acordarea de discreție angajatorilor [pentru a decide dacă utilizarea lor de AEDT intră în domeniul de aplicare al LL144] creează stimulente perverse care subminează responsabilitatea reală pe care această lege ar fi putut-o obține.” ®

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/