Закон, призванный остановить предвзятость ИИ при приеме на работу, оказался неэффективным

Исследование эффективности закона города Нью-Йорка, направленного против предвзятости в алгоритмах найма ИИ, показало, что этот закон в значительной степени неэффективен.

Местный закон г. Нью-Йорка 144 (LL144) был Прошло в 2021 году, вступил в силу 1 января прошлого года и вступил в силу с июля 2023 года. Закон требует от работодателей, использующих автоматизированные инструменты принятия решений о приеме на работу (AEDT), ежегодно проверять их на предмет расовой и гендерной предвзятости, публиковать эти результаты на своих веб-сайтах, и включать в объявления о вакансиях уведомление о том, что они используют такое программное обеспечение для принятия решений о приеме на работу.

Исследование, проведенное исследователями из Корнелльского университета, некоммерческой службы обзоров Consumer Reports и некоммерческого исследовательского института данных и общества, еще не опубликовано, но было передано Регистр. Было установлено, что из 391 работодателя, включенного в выборку, только 18 опубликовали аудиторские отчеты, требуемые по закону. Лишь 13 работодателей (11 из которых также опубликовали аудиторские отчеты) включили необходимые уведомления о прозрачности.

LL144 «предоставляет работодателям почти полную свободу действий при принятии решения о том, попадает ли их система в сферу действия закона», — сказал Джейкоб Меткалф, исследователь Data & Society и один из авторов исследования. Регистр. «И у работодателей есть несколько способов избежать этой возможности».

Меткалф сообщил нам, что LL144 не требует от компаний предпринимать какие-либо действия, если один из его аудитов показывает, что AEDT привел к дискриминационным результатам. Однако это не означает, что компании, уличенные в использовании предвзятых AEDT, не окажутся на крючке.

«Работодатели, публикующие результаты аудита, показывающие разное влияние, открыты для других форм действий», — сказал нам Меткалф. «Гражданские иски о дискриминации при приеме на работу могут стоить очень дорого».

Меткалф и несколько его коллег работают над второй статьей о LL144, в которой основное внимание уделяется опыту аудиторов, проверяющих AEDT, используемые компаниями Нью-Йорка. Регистр ознакомился с документом, который в настоящее время находится на рецензировании. Он установил, что проверки выявили случаи дискриминации со стороны AEDT.

«Из интервью с аудиторами мы знаем, что работодатели платили за эти проверки, а затем отказывались публиковать их публично, когда цифры были плохими», — сказал нам Меткалф. «Их юрисконсульт больше боится Комиссии по равным возможностям трудоустройства, чем Нью-Йорка».

Закон Нью-Йорка замедляет принятие подобных правил

Законы, аналогичные LL144, рассматривались другими юрисдикциями. Эти предложения по большей части зашли в тупик, поскольку законодатели осознали, что попытка Нью-Йорка предотвратить предвзятость при найме ИИ не оказалась эффективной.

«Спонсоры [законопроектов] переосмысливают их структуру. Насколько мне известно, никаких действий по подобным законам не предпринималось», — сказал нам Меткалф. Калифорния считается аналогичное законодательство в 2022 году, в то время как Вашингтон, округ Колумбия, и штат Нью-Йорк также обдумывают такой закон, как LL144.

Европейский союз Закон об ИИ, предварительно согласованный в декабре 2023 года, помещает ИИ, используемый в процессе набора персонала, в Закон «высокий риск» категория, смысл такие продукты необходимо будет проверять перед выходом на рынок и на протяжении всего их жизненного цикла. ЕС еще не принял свой закон.

Предвзятость в области ИИ была хорошо известны с этой точки зрения.

Фирма по разработке программного обеспечения для управления персоналом Workday даже была подали в суд по поводу обвинений в том, что ее программное обеспечение для набора персонала использовалось для дискриминации чернокожих кандидатов – именно для борьбы с этим LL144 и был создан.

Хотя LL144 оказался в значительной степени неэффективным, исследователи пришли к выводу, что этот закон является первым шагом на пути к лучшему регулированию.

«Любой, кто работает над этими законами, экспериментирует со структурами подотчетности – мы пока не знаем, что работает», – сказал нам Меткалф. «Почти все, что говорили критики гражданского общества [о LL144], сбылось, но в этой статье мы узнали кое-что, что другие люди могут использовать [для будущих усилий по обеспечению правопорядка]».

По словам Меткалфа, одна из наиболее важных вещей, которую можно извлечь из LL144, заключается в том, что объем покрываемого использования программного обеспечения AEDT следует расширить.

Язык в LL144 является абстрактным и определяет использование программного обеспечения AEDT только в тех случаях, когда оно «используется для существенной помощи или замены дискреционного принятия решений при принятии решений о приеме на работу». Что означает слово «существенный», зависит от интерпретации.

Нам говорят, что для того, чтобы будущие законы, созданные для борьбы с дискриминацией AEDT, были эффективными, необходимо отказаться от любых оговорок в отношении использования алгоритмов найма ИИ.

«Если система выдает оценку, она находится в области видимости. Точка», — сказал нам Меткалф. «Предоставление работодателям свободы действий [при принятии решения о том, подпадает ли использование ими AEDT под действие LL144] создает порочные стимулы, которые подрывают реальную подотчетность, которой мог бы достичь этот закон». ®

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://go.theregister.com/feed/www.theregister.com/2024/01/23/nyc_ai_hiring_law_ineffective/