L'FBI arruola la tecnologia di sorveglianza AI di Amazon Rekognition

Ripubblicato da Platone

Seguaci: 0

Secondo i documenti del Dipartimento di Giustizia degli Stati Uniti, l'FBI prevede di utilizzare il controverso servizio cloud Rekognition di Amazon "per estrarre informazioni e approfondimenti da immagini e video acquisiti legalmente".

Nel suo Agency Inventory of AI Use Cases, il DOJ list il progetto, nome in codice Tyr, è in fase di “avvio” per l’FBI, che intende personalizzare e utilizzare la tecnologia “per rivedere e identificare oggetti contenenti nudità, armi, esplosivi e altre informazioni identificative”.

Il documento del Dipartimento di Giustizia non menziona una data di inizio e dice semplicemente che i federali utilizzeranno un sistema commerciale standardizzato basato su Rekognition acquistato precostruito da una terza parte. L'FBI ha rifiutato di commentare, nonostante Amazon lo abbia promesso Il registro una dichiarazione in risposta alle nostre richieste, che deve ancora arrivare.

Oltre a fornire servizi di riconoscimento e analisi facciale, Dice Amazon Rekognition può anche cercare oggetti nelle librerie di immagini e video e rilevare "contenuti inappropriati, indesiderati o offensivi", tra le altre funzionalità.

Amazon si era precedentemente impegnata a farlo vietare a tempo indeterminato la polizia dall'utilizzo di Rekognition, ma con alcune lacune. Tuttavia, non ha interrotto la vendita del servizio ad agenzie governative o a terze parti che potrebbero poi fornire la tecnologia alle agenzie di polizia.

Quindi, per essere onesti, Project Tyr non infrange alcuna promessa precedente del gigante del cloud. Tuttavia, arriva in un momento in cui ci sono preoccupazioni sorveglianza senza mandato sembra essere in crescita, soprattutto quando il Lo sta facendo l'FBI lo spionaggio.

All’inizio di questa settimana, Amazon ha detto che lo avrebbe fatto uccidi il pulsante facile ciò ha consentito alle forze dell'ordine di richiedere riprese video di Ring senza mandato. Nello specifico, Amazon ha disattivato la funzione Richiesta di assistenza nella sua app Neighbours, che consentiva di divorare le registrazioni video dei clienti Ring. Ora gli agenti devono prima chiedere.

La mossa è stata applaudita dai sostenitori della privacy dei dati e delle libertà civili.

"La possibilità per le forze dell'ordine di utilizzare l'app Neighbours per richiedere in massa filmati ai proprietari delle telecamere è sempre stata pericolosa e ha avuto l'effetto documentato di esacerbare la profilazione razziale", ha detto il direttore di Fight for the Future, Evan Greer. Il registro in una precedente intervista.

D’altro canto, la notizia che l’FBI utilizza Rekognition ha promosso una risposta molto diversa.

"Penso che sia importante esaminare sia le pratiche dell'FBI che quelle di Amazon in questo ambito", ha affermato Jake Laperruque, vicedirettore del progetto di sicurezza e sorveglianza del Center for Democracy and Technology (CDT).

"L'FBI consente un ampio uso del riconoscimento facciale nelle indagini (le persone non hanno nemmeno bisogno di essere designate come sospette da sottoporre a scansione), programma i suoi sistemi per restituire sempre corrispondenze anche se tali corrispondenze sono inaffidabili e nasconde l'uso del riconoscimento facciale agli imputati, ” ha detto Laperruque Il registro.

“Con tutti questi fattori in mente, sarebbe profondamente inquietante se Amazon tornasse al suo impegno di non vendere il riconoscimento facciale alle forze dell’ordine”, ha aggiunto. “Non esistono leggi federali che limitino il modo in cui l’FBI e altre agenzie utilizzano questa tecnologia invasiva, e le loro stesse politiche sono troppo permissive. Finché si tratta di un selvaggio west in termini di utilizzo, non ci sono scuse per arretrare”. ®

Aggiornato per aggiungere

Subito dopo la pubblicazione di questo articolo, abbiamo ricevuto risposta da Amazon. Il portavoce Duncan Neasham ci ha detto che, per quanto riguarda il colosso del web, l'uso di Rekognition da parte dell'FBI non infrange la sua moratoria sul divieto alla polizia di utilizzare le funzionalità di confronto facciale dell'API.

“Come abbiamo detto molte volte, e continuiamo a crederci fermamente”, ha continuato Neasham, “le aziende e le organizzazioni governative devono utilizzare la tecnologia esistente e quella nuova in modo responsabile e legale. Riteniamo inoltre che i governi dovrebbero mettere in atto norme per disciplinare l’uso etico della tecnologia di riconoscimento facciale e siamo pronti ad aiutarli a progettare regole appropriate, se richiesto”.

Sulla questione se Amazon abbia dato consigli o direttive alla Fed su come utilizzare Rekognition in modo sicuro e ponderato, il rappresentante ci ha detto:

Forniamo indicazioni a tutti i clienti Rekognition, compresi i clienti delle forze dell'ordine, sull'uso corretto e responsabile di Rekognition (come nei servizi di Rekognition guide per sviluppatori e sul nostro Pagina AI responsabile), e abbiamo un chiaro Acceptable Use Policy ed Politica di IA responsabile.

Ad esempio, al cotone biologico viene applicata l'etichetta Termini del servizio AWS regolano l'uso dei nostri servizi, incluse le Sezioni 50.8 (che si applica all'uso di Rekognition da parte delle forze dell'ordine) e 50.9, che afferma: “Amazon ha implementato una moratoria sull'uso della funzionalità di confronto dei volti di Amazon Rekognition da parte dei dipartimenti di polizia in relazione a indagini penali. Questa moratoria non si applica all'uso della funzionalità di confronto dei volti di Amazon Rekognition per identificare o localizzare le persone scomparse."