חוק שנועד לעצור גיוס הטיית בינה מלאכותית הוכח כלא יעיל

הועלה מחדש על ידי אפלטון

עוקב: 0

מחקר שנערך על האפקטיביות של חוק בעיר ניו יורק המכוון להטיה באלגוריתמים להעסקת בינה מלאכותית מצא שהחקיקה ברובה לא יעילה.

New York City Local Law 144 (LL144) היה עבר בשנת 2021, נכנס לתוקף ב-1 בינואר בשנה שעברה והוא נאכף החל ביולי 2023. החוק מחייב מעסיקים המשתמשים בכלי החלטות תעסוקה אוטומטיים (AEDTs) לבדוק אותם מדי שנה עבור הטיית גזע ומגדר, לפרסם את התוצאות הללו באתרים שלהם, ולכלול הודעה בפרסומי דרושים שהם משתמשים בתוכנה כזו כדי לקבל החלטות תעסוקה.

המחקר של חוקרים מאוניברסיטת קורנל, שירות סקירות ללא מטרות רווח Consumer Reports, והמכון למחקר נתונים וחברה ללא מטרות רווח, עדיין לא פורסם אך שותף עם הקופה. הוא מצא שמתוך 391 מעסיקים שנדגמו, רק 18 פרסמו דוחות ביקורת הנדרשים על פי החוק. רק 13 מעסיקים (11 מהם גם פרסמו דוחות ביקורת) כללו את הודעות השקיפות הנדרשות.

LL144 "מעניק כמעט שיקול דעת מוחלט למעסיקים להחליט אם המערכת שלהם נמצאת בגדר החוק", אמר ג'ייקוב מטקאלף, חוקר ב-Data & Society ואחד ממחברי המחקר. הקופה. "וישנן מספר דרכים למעסיקים לברוח מהטווח הזה."

Metcalf אמרה לנו ש-LL144 אינו מחייב חברות לנקוט פעולה כלשהי אם אחת הביקורות שלה מראה ש- AEDT הוביל לתוצאות מפלות. עם זאת, זה לא אומר שחברות שנמצאו משתמשות ב- AEDT מוטות לא יהיו בעניין.

"מעסיקים המפרסמים ביקורת המראה השפעה שונה פתוחים לצורות פעולה אחרות", אמר לנו Metcalf. "תביעות אזרחיות על אפליה בעבודה יכולות להיות יקרות מאוד."

Metcalf וכמה מעמיתיו עובדים על מאמר שני על LL144 המתמקד בניסיון של רואי חשבון הבודקים AEDTs המשמשים חברות ניו יורק. הקופה צפה במאמר, שנמצא כעת בביקורת עמיתים. הוא מגלה שביקורות מצאו מקרים של אפליה על ידי AEDTs.

"אנחנו יודעים מראיונות עם רואי חשבון שמעסיקים שילמו עבור הביקורות האלה ואז סירבו לפרסם אותן בפומבי כשהמספרים גרועים", אמר לנו מטקאלף. "היועץ המשפטי שלהם מפחד יותר מנציבות שוויון הזדמנויות בעבודה מאשר ניו יורק".

החוק בעיריית ניו יורק מאטה את אימוץ כללים דומים

חוקים דומים ל-LL144 נשקלו על ידי תחומי שיפוט אחרים. ההצעות הללו נתקעו בעיקר כאשר מחוקקים הפכו מודעים לכך שהניסיון של ניו יורק למנוע הטיית גיוס בינה מלאכותית לא היה יעיל.

"נותני החסות [של הצעות החוק] חושבים מחדש על המבנה שלהם. למיטב ידיעתי לא הייתה שום פעולה לגבי חוקים דומים", אמר לנו מטקאלף. קליפורניה נחשב חקיקה דומה בשנת 2022, בעוד וושינגטון הבירה ומדינת ניו יורק חשבו גם הן בחקיקה כמו LL144.

האיחוד האירופי חוק AI, שהוסכם באופן זמני בדצמבר 2023, מציב את הבינה המלאכותית המשמשת בתהליך הגיוס ב"חוק"סיכון גבוה" קטגוריה, משמעות מוצרים כאלה יצטרכו להיבדק לפני שהם מגיעים לשוק ולאורך מחזור החיים שלהם. האיחוד האירופי עדיין לא העביר את החוק שלו.

הטיה ב-AI הייתה מבוסס היטב בנקודה זו.

חברת תוכנת משאבי אנוש Workday אפילו הייתה נתבע על האשמות שתוכנת הגיוס שלה שימשה להפלת מועמדים שחורים - מהסוג המדויק ש-LL144 תוכנן להילחם בהם.

בעוד ש-LL144 לא היה יעיל במידה רבה, החוקרים הגיעו למסקנה שהחוק הוא צעד ראשון לקראת רגולציה טובה יותר.

"כל מי שעובד על החוקים האלה מתנסה במבני אחריות - אנחנו עדיין לא יודעים מה עובד", אמר לנו Metcalf. "כמעט כל מה שמבקרי החברה האזרחית אמרו [על LL144] התגשם, אבל למדנו דברים במאמר הזה שאנשים אחרים יכולים לקלוט [למאמצי אכיפה עתידיים]."

אחד הדברים החשובים ביותר שניתן ללמוד מ-LL144, אמר Metcalf, הוא שיש להרחיב את היקף השימוש המכוסה בתוכנת AEDT.

השפה ב-LL144 היא מופשטת, ומגדירה את השימוש בתוכנת AEDT רק במקרים שבהם היא "משמשת לסייע או להחליף באופן מהותי קבלת החלטות לפי שיקול דעת לקבלת החלטות תעסוקה." המשמעות של "מהותית" תלויה בפרשנות.

אם חוקים עתידיים שנוצרו כדי להילחם באפליה של AEDT יהיו יעילים, נאמר לנו, יש לבטל כל הסמכה על השימוש באלגוריתמים להעסקת בינה מלאכותית.

"אם מערכת מעבדת ניקוד, זה בהיקף. נקודה," אמר לנו מטקאלף. "מתן שיקול דעת למעסיקים [בהחלטה אם השימוש שלהם ב- AEDT נופל תחת ההיקף של LL144] יוצר תמריצים מעוותים הפוגעים באחריות בפועל שהחוק הזה יכול היה להשיג." ®