Macy's And Sunglass Hut Sued Over Facial Recog Arrest

Heruitgegeven door Plato

volgers: 0

Een 61-jarige man klaagt de Amerikaanse retailgigant Macy's en de moedermaatschappij van winkelketen Sunglass Hut aan voor $10 miljoen. Hij beweert dat hij ten onrechte is gearresteerd in een overvalzaak na een onjuiste gezichtsherkenningsidentificatie, en vervolgens seksueel is misbruikt in de gevangenis. .

In 2022 beroofden twee mannen een Sunglass Hut-kiosk in een Macy's in Houston, Texas, en stalen onder schot een zonnebril en duizenden dollars aan contant geld. Terwijl de politie van Houston de misdaad onderzocht, identificeerde het hoofd van verliespreventie van EssilorLuxottica – de multinational die eigenaar is van Sunglass Hut – naar verluidt Harvey Eugene Murphy Jr. als een van de verdachten, gebaseerd op de conclusies van gezichtsherkenningssoftware, en beschuldigde hem ervan nog twee overvallen.

De AI-software analyseerde camerabeelden uit de winkel en koppelde Murphy ten onrechte aan een van de verdachten met behulp van ‘oude’ foto’s van hem, aldus zijn advocaten, die beweerden dat de betrokken technologie ‘foutgevoelig en defect’ was.

Naast de AI-matching koos een van de winkelmedewerkers Murphy ook als een van de overvallers uit een reeks foto's die door onderzoekers werden gepresenteerd. Hij werd gearresteerd toen hij probeerde zijn rijbewijs te verlengen bij een DMV en in de gevangenis gegooid. Terwijl hij in hechtenis zat, werd hij door drie mannen ‘geslagen, op de grond gedwongen en op brute wijze verkracht’ gerechtelijke documenten [PDF] ingediend bij een districtsrechtbank in Harris County, Texas.

Murphy vertelde zijn door de rechtbank aangewezen advocaat dat hij de misdaad niet had kunnen begaan omdat hij zich op het moment van de overval in Californië bevond. Zijn alibi werd bevestigd, alle aanklachten werden ingetrokken en hij werd na een paar uur achter de tralies vrijgelaten.

'Murphy's verhaal is tragisch', beweerde zijn daaropvolgende rechtszaak, die deze maand werd aangespannen. “Maar erger nog: het is eng voor iedereen in dit land. Ieder van ons kan ten onrechte worden beschuldigd van een misdrijf en gevangen worden gezet uitsluitend op basis van foutgevoelige gezichtsherkenningssoftware. De bedrijven die dit soort software gebruiken, weten dat er veel valse positieven zijn, maar ze gebruiken het nog steeds om vermeende criminelen positief te identificeren.

“Stel je voor dat je naar de RDW gaat om je rijbewijs te laten verlengen en te horen krijgt dat je gearresteerd bent voor meerdere misdrijven. Ook al ben je volkomen onschuldig, je wordt automatisch gevangengezet totdat je je onschuld kunt bewijzen. Gedurende deze tijd wordt u blootgesteld aan de bekende gevaren van gevangeniscellen die overvol zijn met gewelddadige en gevaarlijke criminelen. Dit allemaal omdat een bedrijf op basis van kunstmatige intelligentie aan de politie vertelde dat jij degene was die verschrikkelijke misdaden heeft begaan.”

Murphy heeft Macy's en EssilorLuxottica beschuldigd van kwaadwillige vervolging, valse gevangenisstraffen en grove nalatigheid. Hij eist een schadevergoeding van tien miljoen dollar. Het register heeft beide organisaties om commentaar gevraagd.

Caitlin Seeley George, campagneleider en directeur van Fight for the Future, vertelt Het register Macy's gaf toe dat er in deze zaak gebruik werd gemaakt van gezichtsherkenningssoftware. George zei dat de technologie volgens haar helemaal niet gebruikt zou moeten worden.

“Particuliere bedrijven die gezichtsherkenningstechnologie gebruiken, brengen klanten ernstig in gevaar, en deze zaak illustreert verder wat we al weten: er is geen manier om gezichtsherkenning veilig te gebruiken – het moet verboden worden”, verklaarde ze.

“En of het nu om bedrijven of de politie gaat, het eindresultaat is dat gezichtsherkenning wordt gebruikt om toezicht te houden op onze daden, ons vermogen om ons vrij en veilig door de samenleving te bewegen en om onze fundamentele rechten uit te oefenen”, voegde ze eraan toe. ®