FBI henter Amazon Rekognition AI Surveillance Tech

Genudgivet af Platon

Abonnenter: 0

FBI planlægger at bruge Amazons kontroversielle Rekognition-skytjeneste "til at udtrække information og indsigt fra lovligt erhvervede billeder og videoer," ifølge dokumenter fra det amerikanske justitsministerium.

I sin Agency Inventory of AI Use Cases, DOJ lister projektet, kodenavnet Tyr, som værende i "initieringsfasen" for FBI, som har til hensigt at tilpasse og bruge teknologien "til at gennemgå og identificere genstande, der indeholder nøgenhed, våben, sprængstoffer og anden identificerende information."

DOJ-dokumentet nævner ikke en startdato og siger blot, at Feds vil bruge et anerkendelsesbaseret kommercielt hyldesystem, der er købt forudbygget fra en tredjepart. FBI afviste at kommentere, og selvom Amazon lovede Registret en erklæring som svar på vores henvendelser, som endnu ikke er kommet.

Ud over at levere ansigtsgenkendelse og analysetjenester, siger Amazon Genkendelse kan også søge efter objekter i billed- og videobiblioteker og registrere "upassende, uønsket eller stødende indhold" blandt andre funktioner.

Amazon har tidligere lovet forbyde politiet på ubestemt tid fra at bruge Rekognition - men med nogle smuthuller. Det stoppede dog ikke salget af tjenesten til statslige organer eller til tredjeparter, som derefter kan levere teknologien til politibutikker.

Så for at være retfærdig bryder Project Tyr ikke noget tidligere løfte fra skygiganten. Det kommer dog på et tidspunkt, hvor bekymringer vedr garantifri overvågning ser ud til at vokse, især når FBI gør snokningen.

Tidligere på ugen sagde Amazon, at det ville dræb den nemme knap der gjorde det muligt for retshåndhævelsen at anmode om Ring-videooptagelser uden en kendelse. Specifikt udløste Amazon funktionen Request for Assistance i sin Neighbours-app, som gjorde det muligt for komplottet at slurpe Ring-kunders videooptagelser. Nu skal betjentene spørge først.

Tiltaget blev bifaldet af fortalere for databeskyttelse og borgerlige frihedsrettigheder.

"Muligheden for retshåndhævelse til at bruge Neighbours-appen til at masseanmode om optagelser fra kameraejere var altid farlig og havde en dokumenteret effekt af at forværre raceprofilering," fortalte Fight for the Future-direktør Evan Greer. Registret i et tidligere interview.

På den anden side fremmede nyhederne om, at FBI brugte Rekognition, et meget anderledes svar.

"Jeg tror, det er vigtigt at se både på FBI og Amazons praksis i dette rum," sagde Jake Laperruque, vicedirektør for Center for Demokrati og Teknologis (CDT) sikkerheds- og overvågningsprojekt.

"FBI tillader bred brug af ansigtsgenkendelse i efterforskninger (folk behøver ikke engang at blive udpeget som mistænkte for at blive scannet), programmerer sine systemer til altid at returnere kampe, selvom disse kampe er upålidelige, og skjuler brugen af ansigtsgenkendelse fra tiltalte, ” fortalte Laperruque Registret.

"Med alle disse faktorer i tankerne ville det være dybt foruroligende, hvis Amazon var gået tilbage på sit løfte om ikke at sælge ansigtsgenkendelse til retshåndhævelsen," tilføjede han. "Der er ingen føderale love, der begrænser, hvordan FBI og andre agenturer bruger denne invasive teknologi, og deres egne politikker er alt for slappe. Så længe det er et vilde vesten med hensyn til brug, er der ingen undskyldning for at falde tilbage.” ®

Opdateret for at tilføje

Kort efter denne artikel blev offentliggjort, hørte vi tilbage fra Amazon. Talsperson Duncan Neasham fortalte os, at for så vidt angår webgiganten, så bryder FBI's brug af anerkendelse ikke dets moratorium for at forbyde politiet at bruge API's funktioner til ansigtssammenligning.

"Som vi har sagt mange gange, og fortsætter med at tro stærkt," fortsatte Neasham, "skal virksomheder og statslige organisationer bruge eksisterende og ny teknologi ansvarligt og lovligt. Vi mener også, at regeringer bør indføre regler for den etiske brug af ansigtsgenkendelsesteknologi, og vi er klar til at hjælpe dem med at designe passende regler, hvis de bliver bedt om det."

Om Amazon gav råd eller direktiver til Feds om, hvordan man sikkert og betænksomt bruger Rekognition, fortalte repræsentanten os:

Vi giver vejledning til alle Rekognition-kunder, herunder retshåndhævende kunder, om korrekt og ansvarlig brug af Rekognition (såsom i Rekognition's udviklervejledninger og på vores Ansvarlig AI-side), og vi har en klar Acceptable Use Policy , Ansvarlig AI-politik.

For eksempel AWS Servicevilkår regulerer brugen af vores tjenester, herunder afsnit 50.8 (som gælder for retshåndhævelsesbrug af Anerkendelse) og 50.9, som siger: "Amazon har implementeret et moratorium for brug af Amazon Rekognitions ansigtssammenligningsfunktion af politiafdelinger i forbindelse med kriminel efterforskning. Dette moratorium gælder ikke for brug af Amazon Rekognitions ansigtssammenligningsfunktion til at hjælpe med at identificere eller lokalisere forsvundne personer."