Ο νόμος που έχει σχεδιαστεί για να σταματήσει τις προσλήψεις μεροληπτικής τεχνητής νοημοσύνης αποδεικνύεται αναποτελεσματικός

Ο νόμος που έχει σχεδιαστεί για να σταματήσει τις προσλήψεις μεροληπτικής τεχνητής νοημοσύνης αποδεικνύεται αναποτελεσματικός

Χρονική σήμανση: 22 Ιανουαρίου 2024 8:30 μ.μ.
Κόμβος πηγής: 3079132

Μια μελέτη σχετικά με την αποτελεσματικότητα ενός νόμου της Νέας Υόρκης που στοχεύει τη μεροληψία στους αλγόριθμους πρόσληψης τεχνητής νοημοσύνης διαπίστωσε ότι η νομοθεσία είναι σε μεγάλο βαθμό αναποτελεσματική.

Τοπικός Νόμος 144 (LL144) της Νέας Υόρκης ήταν πέρασε το 2021, τέθηκε σε ισχύ την 1η Ιανουαρίου του περασμένου έτους και τέθηκε σε ισχύ από τον Ιούλιο του 2023. Ο νόμος απαιτεί από τους εργοδότες που χρησιμοποιούν αυτοματοποιημένα εργαλεία απόφασης απασχόλησης (AEDT) να τα ελέγχουν ετησίως για φυλετική και έμφυλη προκατάληψη, να δημοσιεύουν αυτά τα αποτελέσματα στους ιστότοπούς τους, και περιλαμβάνουν ειδοποίηση στις αγγελίες εργασίας ότι χρησιμοποιούν τέτοιο λογισμικό για να λαμβάνουν αποφάσεις για την απασχόληση.

Η μελέτη από ερευνητές στο Πανεπιστήμιο Cornell, την υπηρεσία κριτικών μη κερδοσκοπικού χαρακτήρα Consumer Reports και το μη κερδοσκοπικό Data & Society Research Institute, δεν έχει ακόμη δημοσιευθεί, αλλά κοινοποιήθηκε Το μητρώο. Διαπίστωσε ότι από τους 391 εργοδότες του δείγματος, μόνο 18 είχαν δημοσιεύσει εκθέσεις ελέγχου που απαιτούνται βάσει του νόμου. Μόλις 13 εργοδότες (11 από τους οποίους δημοσίευσαν επίσης εκθέσεις ελέγχου) περιλάμβαναν τις απαραίτητες ειδοποιήσεις διαφάνειας.

Το LL144 «παρέχει σχεδόν απόλυτη διακριτική ευχέρεια στους εργοδότες να αποφασίσουν εάν το σύστημά τους εμπίπτει στο πεδίο εφαρμογής του νόμου», είπε ο Jacob Metcalf, ερευνητής στο Data & Society και ένας από τους συγγραφείς της μελέτης. Το μητρώο. "Και υπάρχουν πολλοί τρόποι για τους εργοδότες να ξεφύγουν από αυτό το πεδίο."

Ο Metcalf μας είπε ότι το LL144 δεν απαιτεί από τις εταιρείες να λάβουν μέτρα εάν ένας από τους ελέγχους του δείξει ότι ένα AEDT έχει οδηγήσει σε μεροληπτικά αποτελέσματα. Ωστόσο, αυτό δεν σημαίνει ότι οι εταιρείες που διαπιστώθηκε ότι χρησιμοποιούν προκατειλημμένες AEDTs δεν θα είναι στο γάντζο.

"Οι εργοδότες που δημοσιεύουν έλεγχο που δείχνει ανόμοιο αντίκτυπο είναι ανοιχτοί σε άλλες μορφές δράσης", μας είπε ο Metcalf. «Οι αστικές αγωγές σχετικά με τις διακρίσεις στην απασχόληση μπορεί να είναι πολύ ακριβές».

Ο Metcalf και αρκετοί από τους συναδέλφους του εργάζονται σε ένα δεύτερο έγγραφο σχετικά με το LL144 που εστιάζει στην εμπειρία των ελεγκτών που εξετάζουν τα AEDTs που χρησιμοποιούνται από εταιρείες της Νέας Υόρκης. Το μητρώο έχει δει την εργασία, η οποία αυτή τη στιγμή βρίσκεται υπό αξιολόγηση από ομοτίμους. Διαπιστώνει ότι οι έλεγχοι έχουν βρει περιπτώσεις διάκρισης από AEDT.

«Γνωρίζουμε από συνεντεύξεις με ελεγκτές ότι οι εργοδότες έχουν πληρώσει για αυτούς τους ελέγχους και στη συνέχεια αρνήθηκαν να τους δημοσιεύσουν δημόσια όταν τα νούμερα είναι κακά», μας είπε ο Metcalf. «Ο νομικός τους σύμβουλος φοβάται περισσότερο την Επιτροπή Ίσων Ευκαιριών Απασχόλησης παρά τη Νέα Υόρκη».

Ο νόμος της Νέας Υόρκης επιβραδύνει την υιοθέτηση παρόμοιων κανόνων

Νόμοι παρόμοιοι με τον LL144 έχουν εξεταστεί από άλλες δικαιοδοσίες. Αυτές οι προτάσεις έχουν ως επί το πλείστον αδιέξοδο καθώς οι νομοθέτες έχουν συνειδητοποιήσει ότι η προσπάθεια της Νέας Υόρκης να αποτρέψει τη μεροληψία πρόσληψης τεχνητής νοημοσύνης δεν ήταν αποτελεσματική.

«Οι χορηγοί [των νομοσχεδίων] επανεξετάζουν τη δομή τους. Από όσο γνωρίζω, δεν έχει γίνει καμία ενέργεια για παρόμοιους νόμους», μας είπε ο Metcalf. Καλιφόρνια θεωρούνται παρόμοια νομοθεσία το 2022, ενώ η Ουάσιγκτον DC και η πολιτεία της Νέας Υόρκης έχουν επίσης σκεφτεί νομοθεσία όπως η LL144.

Η Ευρωπαϊκή Ένωση AI Act, που συμφωνήθηκε προσωρινά τον Δεκέμβριο του 2023, τοποθετεί την τεχνητή νοημοσύνη που χρησιμοποιείται στη διαδικασία πρόσληψης στο νόμο «υψηλού κινδύνου"κατηγορία, νόημα τέτοια προϊόντα θα πρέπει να επανεξεταστούν πριν φτάσουν στην αγορά και καθ' όλη τη διάρκεια του κύκλου ζωής τους. Η ΕΕ δεν έχει ακόμη εγκρίνει το νόμο της.

Η προκατάληψη στην τεχνητή νοημοσύνη υπήρξε καλά εδραιωμένο σε αυτό το σημείο.

Η εταιρεία λογισμικού ανθρώπινου δυναμικού Workday ήταν ακόμη μήνυσε σχετικά με τους ισχυρισμούς ότι το λογισμικό στρατολόγησης του έχει χρησιμοποιηθεί για να κάνει διακρίσεις εις βάρος των Μαύρων αιτούντων – ακριβώς το είδος που το LL144 σχεδιάστηκε για να καταπολεμήσει.

Ενώ το LL144 ήταν σε μεγάλο βαθμό αναποτελεσματικό, οι ερευνητές κατέληξαν στο συμπέρασμα ότι ο νόμος είναι ένα πρώτο βήμα προς τη βελτίωση της νομοθεσίας.

«Όποιος εργάζεται σε αυτούς τους νόμους πειραματίζεται σε δομές λογοδοσίας – δεν ξέρουμε ακόμα τι λειτουργεί», μας είπε ο Μέτκαλφ. «Σχεδόν όλα όσα είπαν οι επικριτές της κοινωνίας των πολιτών [για το LL144] έχουν γίνει πραγματικότητα, αλλά μάθαμε πράγματα σε αυτό το έγγραφο που μπορούν να συλλέξουν άλλοι άνθρωποι [για μελλοντικές προσπάθειες επιβολής του νόμου]».

Ένα από τα πιο σημαντικά πράγματα που θα μπορούσαμε να μάθουμε από το LL144, είπε ο Metcalf, είναι ότι θα πρέπει να διευρυνθεί το εύρος του τι συνιστά καλυπτόμενη χρήση του λογισμικού AEDT.

Η γλώσσα στο LL144 είναι αφηρημένη και ορίζει τη χρήση του λογισμικού AEDT μόνο σε περιπτώσεις όπου «χρησιμοποιείται για να βοηθήσει ουσιαστικά ή να αντικαταστήσει τη λήψη αποφάσεων κατά τη λήψη αποφάσεων για την απασχόληση». Το τι σημαίνει «ουσιαστικό» εξαρτάται από την ερμηνεία.

Εάν οι μελλοντικοί νόμοι που θα δημιουργηθούν για την καταπολέμηση των διακρίσεων AEDT είναι αποτελεσματικοί, μας λένε, κάθε προσόν σχετικά με τη χρήση αλγορίθμων πρόσληψης τεχνητής νοημοσύνης πρέπει να απορριφθεί.

«Εάν ένα σύστημα αποδίδει μια βαθμολογία, είναι εντός εμβέλειας. Περίοδος», μας είπε ο Μέτκαλφ. «Η παροχή διακριτικής ευχέρειας στους εργοδότες [να αποφασίσουν εάν η χρήση του AEDT εμπίπτει στο πεδίο εφαρμογής του LL144] δημιουργεί διεστραμμένα κίνητρα που υπονομεύουν την πραγματική ευθύνη που θα μπορούσε να έχει επιτύχει αυτός ο νόμος». ®

Σφραγίδα ώρας:

Περισσότερα από Το μητρώο