FBI vključil Amazon Rekognition AI Surveillance Tech

Ponovno objavil Platon

Spremljevalci: 0

FBI namerava uporabiti Amazonovo kontroverzno storitev v oblaku Rekognition "za pridobivanje informacij in vpogledov iz zakonito pridobljenih slik in videoposnetkov," v skladu z dokumenti ameriškega ministrstva za pravosodje.

V svojem popisu primerov uporabe umetne inteligence agencije DOJ seznami projekt s kodnim imenom Tyr je v "iniciacijski" fazi za FBI, ki namerava prilagoditi in uporabiti tehnologijo "za pregled in identifikacijo predmetov, ki vsebujejo goloto, orožje, eksplozive in druge podatke za identifikacijo."

Dokument Ministrstva za pravosodje ne omenja datuma začetka in preprosto pravi, da bodo zvezni organi uporabljali komercialni standardni sistem, ki temelji na Rekognitionu in je bil vnaprej izdelan od tretje osebe. FBI je zavrnil komentar, čeprav je Amazon obljubil Register izjava kot odgovor na naše poizvedbe, ki še ni prispela.

Poleg zagotavljanja storitev prepoznavanja in analize obrazov, Amazon pravi Prepoznavanje lahko tudi išče predmete v knjižnicah slik in videoposnetkov ter med drugimi zmogljivostmi zazna »neprimerno, neželeno ali žaljivo vsebino«.

Amazon se je prej zavezal, da bo za nedoločen čas prepovedati policiji od uporabe Rekognition — vendar z nekaj vrzelmi. Vendar pa ni zaustavil prodaje storitve vladnim agencijam ali tretjim osebam, ki bi lahko nato zagotovile tehnologijo policijskim trgovinam.

Če smo pošteni, projekt Tyr ne krši nobene prejšnje obljube velikana v oblaku. Vendar pa pride v času, ko skrbi glede neupravičenega nadzora zdi se, da raste, še posebej, ko FBI dela vohljanje.

V začetku tega tedna je Amazon dejal, da bo ubij gumb za enostavno kar je organom pregona omogočilo, da brez naloga zahtevajo video posnetke Ringa. Natančneje, Amazon je ukinil funkcijo Request for Assistance v svoji aplikaciji Neighbors, ki je dovoljevala, da je posrkal video posnetke strank Ring. Zdaj morajo policisti najprej vprašati.

Potezo so pozdravili zagovorniki zasebnosti podatkov in državljanskih svoboščin.

"Zmožnost organov pregona, da uporabijo aplikacijo Neighbors za množično zahtevanje posnetkov od lastnikov kamer, je bila vedno nevarna in je imela dokumentiran učinek poslabšanja rasnega profiliranja," je povedal direktor Fight for the Future Evan Greer. Register v prejšnjem intervjuju.

Po drugi strani pa je novica o tem, da FBI uporablja Rekognition, povzročila zelo drugačen odziv.

"Mislim, da je pomembno pogledati prakse FBI in Amazona v tem prostoru," je dejal Jake Laperruque, namestnik direktorja projekta varnosti in nadzora Centra za demokracijo in tehnologijo (CDT).

»FBI dovoljuje široko uporabo prepoznavanja obrazov v preiskavah (ljudi niti ni treba označiti za osumljence, da bi jih skenirali), programira svoje sisteme, da vedno vrnejo ujemanja, tudi če so ta nezanesljiva, in skriva uporabo prepoznavanja obrazov pred obtoženci, «je povedal Laperruque Register.

"Z vsemi temi dejavniki v mislih bi bilo zelo zaskrbljujoče, če bi Amazon odstopil od svoje obljube, da ne bo prodajal prepoznave obraza organom pregona," je dodal. »Ni zveznih zakonov, ki bi omejevali, kako FBI in druge agencije uporabljajo to invazivno tehnologijo, njihova lastna politika pa je preveč ohlapna. Dokler je v smislu uporabe divji zahod, ni opravičila za nazadovanje.” ®

Posodobljeno za dodajanje

Kmalu po objavi tega članka smo se oglasili iz Amazona. Tiskovni predstavnik Duncan Neasham nam je povedal, da kar zadeva spletnega velikana, FBI-jeva uporaba Rekognition ne krši moratorija na prepovedi policiji uporabe funkcij API-ja za primerjavo obrazov.

»Kot smo že večkrat povedali in še naprej trdno verjamemo,« je nadaljeval Neasham, »morajo podjetja in vladne organizacije obstoječo in novo tehnologijo uporabljati odgovorno in zakonito. Prav tako verjamemo, da bi morale vlade uvesti predpise, ki bodo urejali etično uporabo tehnologije za prepoznavanje obrazov, in pripravljeni smo jim pomagati pri oblikovanju ustreznih pravil, če bodo zahtevali.«

O tem, ali je Amazon federalcem dal nasvete ali navodila o tem, kako varno in premišljeno uporabljati Rekognition, nam je predstavnik povedal:

Vsem strankam Rekognition, vključno s strankami organov kazenskega pregona, nudimo smernice o pravilni in odgovorni uporabi Rekognition (kot na primer v Rekognition's vodniki za razvijalce in na našem Stran za odgovorno umetno inteligenco), in imamo jasno Politika sprejemljive uporabe in Politika odgovorne umetne inteligence.

Na primer, Pogoji storitve AWS urejajo uporabo naših storitev, vključno z razdelkoma 50.8 (ki velja za uporabo funkcije Rekognition za organe pregona) in 50.9, ki pravi: »Amazon je uvedel moratorij na uporabo funkcije primerjave obrazov Amazon Rekognition s strani policijskih oddelkov v povezavi s preiskavami kaznivih dejanj. Ta moratorij ne velja za uporabo funkcije primerjave obrazov Amazon Rekognition za pomoč pri identifikaciji ali lociranju pogrešanih oseb.”