Macy's et Sunglass Hut poursuivis en justice pour arrestation par reconnaissance faciale

Republié par Platon

Suiveurs: 0

Un homme de 61 ans poursuit le géant américain de la vente au détail Macy's et la société mère de la chaîne de magasins Sunglass Hut pour 10 millions de dollars, affirmant qu'il a été arrêté par erreur dans une affaire de vol après une correspondance d'identification par reconnaissance faciale inexacte, puis agressé sexuellement en prison. .

En 2022, deux hommes ont cambriolé un kiosque Sunglass Hut dans un Macy's à Houston, au Texas, et ont volé des lunettes de soleil et des milliers de dollars en espèces sous la menace d'une arme. Alors que la police de Houston enquêtait sur le crime, le responsable de la prévention des pertes chez EssilorLuxottica – la multinationale propriétaire de Sunglass Hut – aurait identifié Harvey Eugene Murphy Jr comme l'un des suspects, sur la base des conclusions d'un logiciel de reconnaissance faciale, et l'aurait accusé de transporter sur deux autres vols.

Le logiciel d’IA a analysé les images des caméras du magasin et a comparé à tort Murphy à l’un des suspects en utilisant de « vieilles » photos de lui, selon ses avocats, qui ont affirmé que la technologie impliquée était « sujette aux erreurs et défectueuse ».

En plus de la correspondance avec l'IA, l'un des employés du magasin a également identifié Murphy comme l'un des voleurs à partir d'une série de photographies présentées par les enquêteurs. Il a été arrêté alors qu'il tentait de renouveler son permis de conduire dans un DMV et jeté en prison. Pendant sa détention, il a été « battu, plaqué au sol et brutalement violé collectivement » par trois hommes, selon documents judiciaires [PDF] déposé auprès d'un tribunal de district du comté de Harris, au Texas.

Murphy a déclaré à son avocat commis d'office qu'il n'aurait pas pu commettre le crime puisqu'il se trouvait en Californie au moment du vol. Son alibi a été confirmé, toutes les accusations criminelles ont été abandonnées et il a été libéré après quelques heures derrière les barreaux.

« L'histoire de Murphy est tragique », a affirmé son procès ultérieur, intenté ce mois-ci. « Mais pire encore, c’est effrayant pour tout le monde dans ce pays. N’importe lequel d’entre nous pourrait être indûment accusé d’un crime et emprisonné uniquement sur la base d’un logiciel de reconnaissance faciale sujet aux erreurs. Les entreprises qui utilisent ce type de logiciel savent qu’il présente un taux élevé de faux positifs, mais elles l’utilisent toujours pour identifier de manière positive les criminels présumés.

«Imaginez que vous alliez au DMV pour faire renouveler votre permis et qu'on vous dise que vous êtes en état d'arrestation pour plusieurs délits. Même si vous êtes totalement innocent, vous serez automatiquement emprisonné jusqu’à ce que vous puissiez prouver votre innocence. Pendant ce temps, vous serez soumis aux dangers connus des cellules de prison surpeuplées de criminels violents et dangereux. Tout cela parce qu’une entreprise a déclaré à la police, grâce à l’intelligence artificielle, que c’était vous qui aviez commis des crimes terribles.»

Murphy a accusé Macy's et EssilorLuxottica de poursuites abusives, de séquestration et de négligence grave. Il réclame 10 millions de dollars de dommages et intérêts. Le registre a demandé des commentaires aux deux organisations.

Caitlin Seeley George, campagne et directrice générale de Fight for the Future, a déclaré Le registre Macy's a admis avoir utilisé un logiciel de reconnaissance faciale dans cette affaire. George a déclaré qu'à son avis, la technologie ne devrait pas être utilisée du tout.

« Les entreprises privées qui utilisent la technologie de reconnaissance faciale mettent sérieusement leurs clients en danger, et cette affaire illustre encore davantage ce que nous savons déjà : il n’existe aucun moyen d’utiliser la reconnaissance faciale en toute sécurité – elle doit être interdite », a-t-elle déclaré.

"Et qu'il s'agisse d'entreprises ou de policiers, le résultat final est que la reconnaissance faciale est utilisée pour contrôler nos actions, notre capacité à nous déplacer librement et en toute sécurité dans la société et à exercer nos droits fondamentaux", a-t-elle ajouté. ®