Lov designet til at stoppe AI-biasing ansættelse viser sig at være ineffektiv

Lov designet til at stoppe AI-biasing ansættelse viser sig at være ineffektiv

Tidsstempel: 22. januar 2024 8:30
Kildeknude: 3079132

En undersøgelse af effektiviteten af ​​en New York City-lov, der er rettet mod skævhed i AI-ansættelsesalgoritmer, har fundet ud af, at lovgivningen stort set er ineffektiv.

New York City Local Law 144 (LL144) var Bestået i 2021, trådte i kraft den 1. januar sidste år og er blevet håndhævet fra juli 2023. Loven kræver, at arbejdsgivere, der bruger automatiserede beskæftigelsesbeslutningsværktøjer (AEDT'er), skal revidere dem årligt for race- og kønsbias, offentliggøre disse resultater på deres websteder, og inkludere meddelelse i stillingsopslag om, at de bruger sådan software til at træffe beslutninger om ansættelse.

Undersøgelsen fra forskere ved Cornell University, nonprofit anmeldelsertjenesten Consumer Reports og nonprofitorganisationen Data & Society Research Institute er endnu ikke offentliggjort, men blev delt med Registret. Den fandt, at ud af 391 arbejdsgivere i stikprøven, havde kun 18 offentliggjort revisionsrapporter, der kræves i henhold til loven. Kun 13 arbejdsgivere (hvoraf 11 også offentliggjorde revisionsrapporter) inkluderede de nødvendige gennemsigtighedsmeddelelser.

LL144 "giver næsten total skøn for arbejdsgivere til at beslutte, om deres system er inden for lovens anvendelsesområde," fortalte Jacob Metcalf, en forsker ved Data & Society og en af ​​undersøgelsens forfattere. Registret. "Og der er flere måder for arbejdsgivere at undslippe dette omfang."

Metcalf fortalte os, at LL144 ikke kræver, at virksomheder foretager sig noget, hvis en af ​​dens revisioner viser, at en AEDT har ført til diskriminerende resultater. Det betyder dog ikke, at virksomheder, der viser sig at bruge forudindtaget AEDT'er, ikke er på krogen.

"Arbejdsgivere, der sender en revision, der viser forskellig indvirkning, er åbne for andre former for handling," fortalte Metcalf os. "Civile retssager om beskæftigelsesdiskrimination kan være meget dyre."

Metcalf og flere af hans kolleger arbejder på et andet papir om LL144, der fokuserer på oplevelsen af ​​revisorer, der gennemgår AEDT'er, der bruges af NYC-virksomheder. Registret har set papiret, som i øjeblikket er under peer review. Den konstaterer, at revisioner har fundet tilfælde af diskrimination fra AEDT'er.

"Vi ved fra interviews med revisorer, at arbejdsgivere har betalt for disse revisioner og derefter afvist at offentliggøre dem, når tallene er dårlige," fortalte Metcalf os. "Deres juridiske rådgivere er mere bange for Equal Employment Opportunity Commission end New York City."

New York City-lov bremser vedtagelsen af ​​lignende regler

Love, der ligner LL144, er blevet overvejet af andre jurisdiktioner. Disse forslag er for det meste gået i stå, da lovgivere er blevet opmærksomme på, at NYCs forsøg på at forhindre AI-ansættelsesbias ikke har været effektivt.

"Sponsorer [af lovforslagene] genovervejer deres struktur. Så vidt jeg ved, har der ikke været nogen handling i forhold til lignende love,” fortalte Metcalf os. Californien betragtes lignende lovgivning i 2022, mens Washington DC og staten New York også har overvejet lovgivning som LL144.

Den Europæiske Unions AI-loven, foreløbigt godkendt i december 2023, placerer AI brugt i rekrutteringsprocessen i lovens "høj risikokategori, betyder sådanne produkter skal gennemgås, før de kommer på markedet og gennem deres livscyklus. EU har endnu ikke vedtaget sin lov.

Bias i AI har været veletableret på dette tidspunkt.

HR-softwarefirmaet Workday har endda været sagsøges over påstande om, at dets rekrutteringssoftware er blevet brugt til at diskriminere sorte ansøgere – præcis den slags ting, som LL144 var designet til at bekæmpe.

Mens LL144 stort set har været ineffektiv, konkluderede forskerne, at loven er et første skridt mod bedre regulering.

"Enhver, der arbejder med disse love, eksperimenterer med ansvarlighedsstrukturer - vi ved endnu ikke, hvad der virker," fortalte Metcalf os. "Næsten alt, hvad civilsamfundskritikere sagde [om LL144] er gået i opfyldelse, men vi lærte ting i dette papir, som andre mennesker kan opfange [til fremtidige håndhævelsesindsatser]."

En af de vigtigste ting, der kunne læres af LL144, sagde Metcalf, er, at omfanget af, hvad der udgør dækket brug af AEDT-software, bør udvides.

Sproget i LL144 er abstrakt og definerer kun brugen af ​​AEDT-software i tilfælde, hvor det "bruges til væsentligt at hjælpe eller erstatte skønsmæssig beslutningstagning for at træffe ansættelsesbeslutninger." Hvad "væsentlig" betyder, er op til fortolkningen.

Hvis fremtidige love, der er oprettet for at bekæmpe AEDT-diskrimination, skal være effektive, får vi at vide, skal enhver kvalifikation vedrørende brugen af ​​AI-ansættelsesalgoritmer droppes.

"Hvis et system gengiver en score, er det i omfanget. Periode," fortalte Metcalf os. "At give arbejdsgivere skøn [ved at beslutte, om deres brug af AEDT falder ind under LL144's anvendelsesområde], skaber perverse incitamenter, der underminerer den faktiske ansvarlighed, denne lov kunne have opnået." ®

Tidsstempel:

Mere fra Registret