Zakon, namenjen preprečevanju pristranskega zaposlovanja umetne inteligence, se je izkazal za neučinkovitega

Ponovno objavil Platon

Spremljevalci: 0

Študija o učinkovitosti newyorškega zakona o pristranskosti algoritmov zaposlovanja z umetno inteligenco je pokazala, da je zakonodaja večinoma neučinkovita.

Lokalni zakon New Yorka 144 (LL144) je bil opravil leta 2021, je začel veljati 1. januarja lani in se uporablja od julija 2023. Zakon od delodajalcev, ki uporabljajo orodja za samodejno odločanje o zaposlitvi (AEDT), zahteva, da jih vsako leto pregledajo zaradi pristranskosti glede rase in spola, te rezultate objavijo na svojih spletnih mestih, in v objave za delovna mesta vključijo obvestilo, da uporabljajo takšno programsko opremo za sprejemanje odločitev o zaposlitvi.

Študija raziskovalcev z Univerze Cornell, neprofitne storitve za recenzije Consumer Reports in neprofitnega Data & Society Research Institute še ni objavljena, vendar je bila posredovana Register. Ugotovilo je, da je od 391 vzorčenih delodajalcev le 18 objavilo revizijska poročila, ki jih zahteva zakon. Samo 13 delodajalcev (11 jih je tudi objavilo revizijska poročila) je vključilo potrebna obvestila o transparentnosti.

LL144 "podeljuje skoraj popolno diskrecijsko pravico delodajalcem pri odločanju, ali je njihov sistem v okviru zakona," je povedal Jacob Metcalf, raziskovalec pri Data & Society in eden od avtorjev študije. Register. "In delodajalci se lahko izognejo temu obsegu na več načinov."

Metcalf nam je povedal, da LL144 od podjetij ne zahteva, da ukrepajo, če ena od njegovih revizij pokaže, da je AEDT povzročil diskriminatorne rezultate. To pa ne pomeni, da podjetja, za katera se ugotovi, da uporabljajo pristranske AEDT, ne bodo na kavlju.

"Delodajalci, ki objavijo revizijo, ki kaže različen učinek, so odprti za druge oblike ukrepanja," nam je povedal Metcalf. "Civilne tožbe zaradi diskriminacije pri zaposlovanju so lahko zelo drage."

Metcalf in več njegovih kolegov delajo na drugem dokumentu o LL144, ki se osredotoča na izkušnje revizorjev, ki pregledujejo AEDT, ki jih uporabljajo podjetja v New Yorku. Register si je ogledal članek, ki je trenutno v strokovni recenziji. Ugotavlja, da so revizije odkrile primere diskriminacije s strani AEDT.

"Iz intervjujev z revizorji vemo, da so delodajalci plačali za te revizije in nato zavrnili njihovo javno objavo, ko so bile številke slabe," nam je povedal Metcalf. "Njihov pravni svetovalec se bolj boji Komisije za enake možnosti zaposlovanja kot mesta New York."

Zakon mesta New York upočasnjuje sprejemanje podobnih pravil

Zakone, podobne LL144, so obravnavale druge jurisdikcije. Ti predlogi so večinoma zastali, ker so se zakonodajalci zavedali, da poskus NYC, da prepreči pristranskost pri zaposlovanju z umetno inteligenco, ni bil učinkovit.

»Sponzorji [zakonov] ponovno razmišljajo o njihovi strukturi. Kolikor vem, ni bilo nobenih ukrepov glede podobnih zakonov,« nam je povedal Metcalf. Kalifornija šteje podobno zakonodajo leta 2022, medtem ko sta Washington DC in zvezna država New York prav tako razmišljala o zakonodaji, kot je LL144.

Evropske unije Zakon o umetni inteligenci, ki je bil začasno dogovorjen decembra 2023, umešča umetno inteligenco, uporabljeno v procesu zaposlovanja, v “zakon”visoko tveganje” kategorija, kar pomeni, take izdelke bo treba pregledati, preden pridejo na trg in v njihovem življenjskem ciklu. EU mora še sprejeti svoj zakon.

Pristranskost v AI je bila dobro uveljavljeno na tej točki.

Podjetje za kadrovsko programsko opremo Workday je bilo celo tožen zaradi obtožb, da je bila njegova programska oprema za zaposlovanje uporabljena za diskriminacijo temnopoltih prosilcev – točno za boj proti temu, proti čemur je bil zasnovan LL144.

Medtem ko je bil LL144 večinoma neučinkovit, so raziskovalci ugotovili, da je zakon prvi korak k boljši ureditvi.

»Vsak, ki dela na teh zakonih, eksperimentira s strukturami odgovornosti – ne vemo še, kaj deluje,« nam je povedal Metcalf. "Skoraj vse, kar so rekli kritiki civilne družbe [o LL144], se je uresničilo, vendar smo v tem dokumentu izvedeli stvari, ki jih lahko drugi ljudje poberejo [za prihodnja prizadevanja za uveljavljanje]."

Ena najpomembnejših stvari, ki bi se jih lahko naučili iz LL144, je dejal Metcalf, je, da je treba razširiti obseg tega, kar predstavlja pokrito uporabo programske opreme AEDT.

Jezik v LL144 je abstrakten in opredeljuje samo uporabo programske opreme AEDT v primerih, ko se »uporablja za znatno pomoč ali nadomestitev diskrecijskega odločanja pri odločanju o zaposlitvi«. Kaj pomeni "precejšen", je odvisno od razlage.

Če želimo, da bodo prihodnji zakoni, ustvarjeni za boj proti diskriminaciji AEDT, učinkoviti, je treba opustiti vse kvalifikacije glede uporabe algoritmov zaposlovanja z umetno inteligenco.

»Če sistem upodablja rezultat, je v obsegu. Pika,« nam je povedal Metcalf. "Dajanje diskrecijske pravice delodajalcem [pri odločanju, ali njihova uporaba AEDT spada v področje uporabe LL144] ustvarja napačne spodbude, ki spodkopavajo dejansko odgovornost, ki bi jo ta zakon lahko dosegel." ®