Macy's och Sunglass Hut stämde för ansiktsigenkänning

Macy's och Sunglass Hut stämde för ansiktsigenkänning

Tidsstämpel: 23 januari 2024 8:04
Källnod: 3081458

En 61-årig man stämmer den amerikanska detaljhandelsjätten Macy's och moderföretaget till kedjebutiken Sunglass Hut på 10 miljoner dollar, och hävdar att han av misstag arresterades i ett rånfall efter en felaktig ansiktsigenkänningsidentifiering och därefter sexuellt övergrepp i fängelse. .

År 2022 rånade två män en Sunglass Hut-kiosk inne på en Macy's i Houston, Texas, och stal solglasögon och tusentals dollar i kontanter under pistolhot. Medan polisen i Houston utredde brottet, identifierade chefen för förlustförebyggande åtgärder för EssilorLuxottica – det multinationella som äger Sunglass Hut – Harvey Eugene Murphy Jr som en av de misstänkta, baserat på slutsatserna från viss mjukvara för ansiktsigenkänning, och anklagade honom för att bära ut två andra rån.

AI-mjukvaran analyserade kamerafilmer från butiken och matchade Murphy felaktigt med en av de misstänkta med hjälp av "gamla" foton av honom, enligt hans advokater, som hävdade att tekniken var "felbenägen och felaktig."

Förutom AI-matchningen valde en av butikens arbetare också ut Murphy som en av rånarna från en uppsättning fotografier som presenterades av utredare. Han greps när han försökte förnya sitt körkort på en DMV och kastades i fängelse. Medan han satt i häkte blev han "slagen, tvingad på marken och brutalt gruppvåldtäkt" av tre män, enligt domstolsdokument [PDF] lämnas in i en tingsrätt i Harris County, Texas.

Murphy sa till sin domstolsutnämnda försvarsadvokat att han inte kunde ha begått brottet eftersom han var i Kalifornien vid tiden för rånet. Hans alibi bekräftades, alla brottsanklagelser lades ner och han släpptes efter några timmar bakom galler.

"Murphys historia är tragisk," hävdade hans efterföljande stämningsansökan, som väcktes denna månad. "Men värre än så är det skrämmande för alla i det här landet. Vilken som helst av oss skulle kunna bli felaktigt åtalad för ett brott och fängslas baserat enbart på felbenägen mjukvara för ansiktsigenkänning. De företag som använder den här typen av programvara vet att den har en hög andel falska positiva resultat, men de använder den fortfarande för att positivt identifiera påstådda brottslingar.

"Föreställ dig att gå till DMV för att få din licens förnyad och få veta att du är arresterad för flera brott. Även om du är helt oskyldig kommer du automatiskt att fängslas tills du kan bevisa din oskuld. Under denna tid kommer du att utsättas för de kända farorna med fängelseceller överfulla med våldsamma och farliga brottslingar. Allt detta för att ett företag sa till polisen, baserat på artificiell intelligens, att det var du som begick fruktansvärda brott.”

Murphy har anklagat Macy's och EssilorLuxottica för illvilligt åtal, falsk fängelse och grov vårdslöshet. Han kräver 10 miljoner dollar i skadestånd. Registret har bett båda organisationerna om kommentarer. 

Caitlin Seeley George, kampanjer och verkställande direktör på Fight for the Future, berättade Registret Macy's medgav att de använde mjukvara för ansiktsigenkänning i fallet. George sa att enligt hennes åsikt borde tekniken inte användas alls.

"Privata företag som använder teknik för ansiktsigenkänning äventyrar kunderna allvarligt, och det här fallet exemplifierar ytterligare vad vi redan vet: det finns inget sätt att säkert använda ansiktsigenkänning - det måste förbjudas", förklarade hon.

"Och oavsett om det är företag eller poliser, är slutresultatet att ansiktsigenkänning används för att övervaka våra handlingar, vår förmåga att röra sig fritt och säkert i hela samhället och att utöva våra grundläggande rättigheter," tillade hon. ®

Tidsstämpel:

Mer från Registret