Закон, спрямований на те, щоб зупинити упередженість ШІ при наймі, виявився неефективним

Закон, спрямований на те, щоб зупинити упередженість ШІ при наймі, виявився неефективним

Мітка часу: 22 січня 2024 р. 8:30
Вихідний вузол: 3079132

Дослідження ефективності закону міста Нью-Йорк, спрямованого на упередженість алгоритмів найму ШІ, показало, що законодавство в основному неефективне.

Місцевий закон Нью-Йорка 144 (LL144) був Пройшов у 2021 році, набув чинності 1 січня минулого року та набрав чинності з липня 2023 року. Закон вимагає від роботодавців, які використовують автоматизовані інструменти прийняття рішень про працевлаштування (AEDT), щорічно перевіряти їх на предмет расової та гендерної упередженості, публікувати ці результати на своїх веб-сайтах, і включати в оголошення про роботу повідомлення про те, що вони використовують таке програмне забезпечення для прийняття рішень щодо працевлаштування.

Дослідження дослідників Корнельського університету, некомерційної служби оглядів Consumer Reports і некомерційного Інституту дослідження даних і суспільства ще не опубліковано, але було надіслано Реєстр. Було встановлено, що з 391 роботодавця, який був включений у вибірку, лише 18 опублікували аудиторські звіти, які вимагаються згідно із законом. Лише 13 роботодавців (11 з яких також опублікували аудиторські звіти) включили необхідні повідомлення про прозорість.

Джейкоб Меткалф, дослідник Data & Society та один з авторів дослідження, сказав, що LL144 «надає роботодавцям майже повну свободу вирішувати, чи підпадає їхня система в дію закону». Реєстр. «І у роботодавців є кілька способів уникнути цієї сфери».

Меткалф сказав нам, що LL144 не вимагає від компаній вживати жодних дій, якщо один із його аудитів показує, що AEDT призвело до дискримінаційних результатів. Однак це не означає, що компанії, які використовують упереджені AEDT, не будуть на гачку.

«Роботодавці, які публікують аудит, який показує неоднаковий вплив, відкриті до інших форм дій», — сказав нам Меткалф. «Цивільні позови щодо дискримінації при працевлаштуванні можуть бути дуже дорогими».

Меткалф і кілька його колег працюють над другим документом про LL144, який зосереджується на досвіді аудиторів, які переглядають AEDT, що використовуються компаніями Нью-Йорка. Реєстр переглянув статтю, яка зараз знаходиться на стадії рецензування. Було встановлено, що перевірки виявили випадки дискримінації з боку AEDT.

«З інтерв’ю з аудиторами ми знаємо, що роботодавці платили за ці перевірки, а потім відмовлялися публікувати їх публічно, коли цифри були поганими», — сказав нам Меткалф. «Їхній юридичний радник більше боїться Комісії з рівних можливостей працевлаштування, ніж Нью-Йорка».

Закон Нью-Йорка уповільнює прийняття подібних правил

Закони, подібні до LL144, розглядалися іншими юрисдикціями. Ці пропозиції здебільшого застопорилися, оскільки законодавцям стало відомо, що спроба Нью-Йорка запобігти упередженню при наймі ШІ не була ефективною.

«Спонсори [законопроектів] переосмислюють їх структуру. Наскільки мені відомо, жодних дій щодо подібних законів не було», — сказав нам Меткалф. Каліфорнія вважається аналогічне законодавство у 2022 році, тоді як Вашингтон і штат Нью-Йорк також замислювалися над таким законодавством, як LL144.

Європейський Союз Закон про ШІ, попередньо узгоджений у грудні 2023 року, розміщує штучний інтелект, який використовується в процесі вербування, в Законі «високий ризиккатегорія, сенс такі продукти необхідно перевіряти перед надходженням на ринок і протягом усього життєвого циклу. ЄС ще має прийняти свій закон.

Була упередженість у ШІ добре зарекомендував себе на цьому місці.

Компанія з програмного забезпечення кадрів Workday навіть була подав до суду через звинувачення в тому, що його програмне забезпечення для найму використовувалося для дискримінації темношкірих кандидатів – саме для боротьби з цим LL144 було розроблено.

Хоча закон LL144 був значною мірою неефективним, дослідники дійшли висновку, що закон є першим кроком до кращого регулювання.

«Кожен, хто працює над цими законами, експериментує зі структурами підзвітності – ми ще не знаємо, що працює», – сказав нам Меткалф. «Майже все, що критики громадянського суспільства говорили [про LL144], здійснилося, але ми дізналися в цій статті те, що інші люди можуть підібрати [для майбутніх заходів із правозастосування]».

За словами Меткалфа, одна з найважливіших речей, яку можна винести з LL144, полягає в тому, що слід розширити сферу використання програмного забезпечення AEDT.

Мова в LL144 є абстрактною, вона визначає використання програмного забезпечення AEDT лише у випадках, коли воно «використовується для істотної допомоги або заміни дискреційного прийняття рішень для прийняття рішень щодо працевлаштування». Що означає «значний», залежить від тлумачення.

Нам кажуть, що якщо майбутні закони, створені для боротьби з дискримінацією AEDT, будуть ефективними, необхідно скасувати будь-яку кваліфікацію щодо використання алгоритмів найму ШІ.

«Якщо система рендерить оцінку, це в межах. Крапка, — сказав нам Меткалф. «Надання роботодавцям повноважень [у прийнятті рішення про те, чи підпадає використання ними AEDT під сферу дії LL144], створює спотворені стимули, які підривають фактичну підзвітність, якої міг досягнути цей закон». ®

Часова мітка:

Більше від Реєстр