A mesterséges intelligencia torzító munkaerő-felvételének megakadályozására tervezett törvény hatástalannak bizonyul

A mesterséges intelligencia torzító munkaerő-felvételének megakadályozására tervezett törvény hatástalannak bizonyul

Időbélyeg: 22. január 2024. 8:30
Forrás csomópont: 3079132

Egy New York-i törvény hatékonyságát vizsgáló tanulmány, amely a mesterséges intelligencia-algoritmusok torzítását célozza, azt találta, hogy a jogszabály nagyrészt hatástalan.

New York City Local Law 144 (LL144) volt Elmúlt 2021-ben, tavaly január 1-jén lépett hatályba, és 2023 júliusától lép hatályba. A törvény előírja, hogy az automatizált foglalkoztatási döntéshozatali eszközöket (AEDT) használó munkáltatók évente ellenőrizzék őket a faji és nemi elfogultság szempontjából, és közzétegyék ezeket az eredményeket a weboldalukon, és az álláshirdetésekbe fel kell tüntetni, hogy ilyen szoftvert használnak foglalkoztatási döntések meghozatalához.

A Cornell Egyetem, a Consumer Reports nonprofit értékelő szolgálat és a nonprofit Data & Society Research Institute kutatóinak tanulmányát még nem tették közzé, de megosztották A regisztráció. Megállapította, hogy a mintában szereplő 391 munkáltató közül csak 18 tett közzé a törvény által előírt könyvvizsgálói jelentést. Mindössze 13 munkáltató (ebből 11 könyvvizsgálói jelentést is publikált) tartalmazta a szükséges átláthatósági nyilatkozatokat.

Az LL144 „szinte teljes mérlegelési jogkört biztosít a munkáltatóknak annak eldöntésében, hogy rendszerük a törvény hatálya alá tartozik-e” – mondta Jacob Metcalf, a Data & Society kutatója és a tanulmány egyik szerzője. A regisztráció. "És a munkaadók többféleképpen is kikerülhetnek ebből a körből."

Metcalf elmondta, hogy az LL144 nem követeli meg a vállalatoktól, hogy tegyenek semmilyen intézkedést, ha az egyik auditja azt mutatja, hogy az AEDT diszkriminatív kimenetelhez vezetett. Ez azonban nem jelenti azt, hogy azok a cégek, amelyekről kiderült, hogy elfogult AEDT-ket használnak, ne lennének kiakadva.

„Az eltérő hatást mutató auditot közzétevő munkaadók nyitottak másfajta fellépésre” – mondta Metcalf. "A foglalkoztatási diszkrimináció miatt indított polgári perek nagyon drágák lehetnek."

Metcalf és több kollégája az LL144-ről szóló második dokumentumon dolgozik, amely a NYC-i cégek által használt AEDT-k felülvizsgálatával foglalkozó auditorok tapasztalataira összpontosít. A regisztráció megtekintette a lapot, amely jelenleg szakértői értékelés alatt áll. Megállapítja, hogy az ellenőrzések az AEDT-k általi megkülönböztetés eseteit találták.

„A könyvvizsgálókkal készült interjúkból tudjuk, hogy a munkaadók fizettek ezekért az auditokért, majd megtagadták a nyilvános közzétételüket, ha rosszak a számok” – mondta Metcalf. „A jogtanácsosuk jobban fél az Egyenlő Foglalkoztatási Esélyek Bizottságától, mint New York Citytől.”

New York-i törvény lassítja a hasonló szabályok elfogadását

Az LL144-hez hasonló törvényeket más joghatóságok is figyelembe vettek. Ezek a javaslatok többnyire elakadtak, mivel a törvényhozók tudomást szereztek arról, hogy a NYC-nek a mesterséges intelligencia munkaerő-felvételi elfogultságának megakadályozására tett kísérlete nem volt hatékony.

„A [a törvényjavaslatok szponzorai] újragondolják szerkezetüket. Amennyire én tudom, nem történt semmilyen intézkedés hasonló törvényekkel kapcsolatban” – mondta Metcalf. Kalifornia figyelembe vett hasonló jogszabály 2022-ben, miközben Washington DC és New York állam is elgondolkozott olyan jogszabályokon, mint az LL144.

Az Európai Unió AI törvény, amelyről 2023 decemberében ideiglenesen megállapodtak, a toborzási folyamatban használt mesterséges intelligenciát a törvény „nagy kockázat” kategória, jelenti az ilyen termékeket a piacra jutás előtt és teljes életciklusuk során felül kell vizsgálni. Az EU-nak még el kell fogadnia a törvényét.

Elfogultság az AI-ban jól megalapozott ezen a ponton.

A Workday HR szoftvercég még az is volt beperelte azon állítások miatt, hogy toborzószoftverét a fekete pályázók megkülönböztetésére használták – pontosan ez a fajta dolog, ami ellen az LL144-et arra tervezték, hogy leküzdje magát.

Míg az LL144 nagyrészt hatástalan volt, a kutatók arra a következtetésre jutottak, hogy a törvény az első lépés a jobb szabályozás felé.

„Bárki, aki ezeken a törvényeken dolgozik, kísérletez az elszámoltathatósági struktúrákkal – még nem tudjuk, mi működik” – mondta Metcalf. „Majdnem minden valóra vált, amit a civil társadalom kritikusai mondtak [az LL144-ről], de ebből az újságból olyan dolgokat tanultunk meg, amelyeket mások is felvehetnek [a jövőbeli végrehajtási erőfeszítéseikhez].”

Metcalf szerint az egyik legfontosabb dolog, amit az LL144-ből meg lehet tanulni, az az, hogy ki kell terjeszteni az AEDT szoftver lefedett használatának körét.

Az LL144 nyelve absztrakt, és csak olyan esetekben határozza meg az AEDT szoftver használatát, amikor „a foglalkoztatási döntések meghozatalához szükséges diszkrecionális döntéshozatal jelentős segítésére vagy helyettesítésére szolgál”. Hogy mit jelent a „lényeges”, az értelmezésen múlik.

Ha azt akarjuk, hogy az AEDT-diszkrimináció leküzdésére megalkotott jövőbeli törvények hatékonyak legyenek, úgy tudjuk, hogy az AI-algoritmusok használatára vonatkozó bármilyen minősítést el kell vetni.

„Ha egy rendszer pontszámot ad le, akkor annak hatóköre van. Időszak” – mondta nekünk Metcalf. „Ha a munkaadók mérlegelési jogkört biztosítanak annak eldöntésében, hogy az AEDT-használatuk az LL144 hatálya alá tartozik-e, az olyan perverz ösztönzőket teremt, amelyek aláássák a tényleges elszámoltathatóságot, amelyet ez a törvény elérhetett volna.” ®

Időbélyeg:

Még több A regisztráció