Macy's and Sunglass Hut saksøkt over ansiktsgjenkjenningsarrest

Publisert av Platon

Følgere: 0

En 61 år gammel mann saksøker den amerikanske detaljhandelsgiganten Macy's og morselskapet til kjedebutikken Sunglass Hut for 10 millioner dollar, og hevder at han ved en feiltakelse ble arrestert i en ranssak etter en unøyaktig ansiktsgjenkjenningsidentifikasjon, og deretter utsatt for seksuelle overgrep i fengsel. .

I 2022 ranet to menn en Sunglass Hut-kiosk inne i en Macy's i Houston, Texas, og stjal solbriller og tusenvis av dollar i kontanter med våpen. Mens politiet i Houston etterforsket forbrytelsen, skal lederen for tapsforebygging for EssilorLuxottica – det multinasjonale som eier Sunglass Hut – ha identifisert Harvey Eugene Murphy Jr som en av de mistenkte, basert på konklusjonene fra noe programvare for ansiktsgjenkjenning, og anklaget ham for å bære ut to andre ran.

AI-programvaren analyserte kameraopptak fra butikken, og feilaktig matchet Murphy med en av de mistenkte ved å bruke «gamle» bilder av ham, ifølge advokatene hans, som hevdet at teknologien var «feilutsatt og defekt».

I tillegg til AI-matchingen, plukket en av butikkens arbeidere også ut Murphy som en av ranerne fra et sett med fotografier presentert av etterforskere. Han ble arrestert da han prøvde å fornye førerkortet sitt på en DMV og kastet i fengsel. Mens han var i varetekt ble han «slått, tvunget på bakken og brutalt gjengvoldtatt» av tre menn, ifølge rettsdokumenter [PDF] arkivert i en tingrett i Harris County, Texas.

Murphy fortalte sin rettsoppnevnte forsvarsadvokat at han ikke kunne ha begått forbrytelsen siden han var i California på tidspunktet for ranet. Hans alibi ble bekreftet, alle kriminelle anklager ble henlagt, og han ble løslatt etter noen timer bak murene.

"Murphys historie er tragisk," hevdet hans påfølgende søksmål, som ble anlagt denne måneden. «Men verre enn det, det er skummelt for alle i dette landet. Enhver av oss kan bli urettmessig siktet for en forbrytelse og fengslet utelukkende basert på feilutsatt programvare for ansiktsgjenkjenning. Selskapene som bruker denne typen programvare vet at den har en høy andel falske positiver, men de bruker den fortsatt til å identifisere påståtte kriminelle positivt.

"Tenk deg å gå til DMV for å få fornyet lisensen din og bli fortalt at du er arrestert for flere forbrytelser. Selv om du er helt uskyldig, vil du automatisk bli fengslet til du kan bevise din uskyld. I løpet av denne tiden vil du bli utsatt for de kjente farene ved fengselsceller overfylte med voldelige og farlige kriminelle. Alt dette fordi et selskap fortalte politiet, basert på kunstig intelligens, at du var den som begikk forferdelige forbrytelser.»

Murphy har anklaget Macy's og EssilorLuxottica for ondsinnet rettsforfølgelse, falsk fengsling og grov uaktsomhet. Han krever 10 millioner dollar i erstatning. Registeret har bedt begge organisasjonene om kommentar.

Caitlin Seeley George, kampanjer og administrerende direktør i Fight for the Future, fortalte Registeret Macy's innrømmet at de brukte programvare for ansiktsgjenkjenning i saken. George sa at teknologien etter hennes mening ikke burde brukes i det hele tatt.

"Private selskaper som bruker ansiktsgjenkjenningsteknologi setter kunder i alvorlig fare, og denne saken eksemplifiserer ytterligere det vi allerede vet: det er ingen måte å trygt bruke ansiktsgjenkjenning på - det må forbys," erklærte hun.

"Og enten det er selskaper eller politi, er sluttresultatet at ansiktsgjenkjenning brukes til å overvåke våre handlinger, vår evne til å bevege seg fritt og trygt gjennom hele samfunnet, og til å utøve våre grunnleggende rettigheter," la hun til. ®