FBI contrata tecnologia de vigilância de IA do Amazon Rekognition

Republicado por Platão

seguidores: 0

O FBI planeja usar o controverso serviço de nuvem Rekognition da Amazon “para extrair informações e insights de imagens e vídeos adquiridos legalmente”, de acordo com documentos do Departamento de Justiça dos EUA.

Em seu inventário de casos de uso de IA da agência, o DOJ listas o projeto, de codinome Tyr, está na fase de “iniciação” do FBI, que pretende customizar e usar a tecnologia “para revisar e identificar itens que contenham nudez, armas, explosivos e outras informações de identificação”.

O documento do DOJ não menciona uma data de início e simplesmente diz que os federais usarão um sistema comercial pronto para uso baseado em Rekognition, adquirido pré-construído de terceiros. O FBI se recusou a comentar e, embora a Amazon tenha prometido O registro uma declaração em resposta às nossas perguntas, que ainda não chegou.

Além de fornecer serviços de reconhecimento e análise facial, Amazon diz O Rekognition também pode procurar objetos em bibliotecas de imagens e vídeos e detectar “conteúdo impróprio, indesejado ou ofensivo”, entre outros recursos.

A Amazon já havia se comprometido banir indefinidamente a polícia de usar o Rekognition — mas com algumas lacunas. No entanto, não interrompeu a venda do serviço a agências governamentais ou a terceiros que poderão então fornecer a tecnologia às lojas de polícia.

Portanto, para ser justo, o Projeto Tyr não quebra nenhuma promessa anterior do gigante da nuvem. No entanto, surge num momento em que as preocupações sobre vigilância sem justificativa parece estar crescendo, especialmente quando o O FBI está fazendo a bisbilhotice.

No início desta semana, a Amazon disse que iria mate o botão fácil que permitiu que as autoridades solicitassem imagens de vídeo do Ring sem mandado. Especificamente, a Amazon desativou o recurso Solicitação de Assistência em seu aplicativo Neighbours, o que permitiu que o trabalho sorvesse as gravações de vídeo dos clientes do Ring. Agora os oficiais precisam perguntar primeiro.

A medida foi aplaudida pelos defensores da privacidade de dados e das liberdades civis.

“A capacidade das autoridades de usar o aplicativo Neighbours para solicitar imagens em massa dos proprietários das câmeras sempre foi perigosa e teve um efeito documentado de exacerbar o perfil racial”, disse o diretor do Fight for the Future, Evan Greer. O registro em uma entrevista anterior.

Por outro lado, as notícias sobre o FBI usar o Rekognition promoveram uma resposta muito diferente.

“Acho importante observar as práticas do FBI e da Amazon neste espaço”, disse Jake Laperruque, vice-diretor do Projeto de Segurança e Vigilância do Centro para Democracia e Tecnologia (CDT).

“O FBI permite o amplo uso de reconhecimento facial em investigações (as pessoas nem precisam ser designadas como suspeitas para serem escaneadas), programa seus sistemas para sempre retornar correspondências, mesmo que essas correspondências não sejam confiáveis, e oculta o uso de reconhecimento facial dos réus, ”Laperruque disse O registro.

“Com todos esses fatores em mente, seria profundamente perturbador se a Amazon tivesse voltado atrás em sua promessa de não vender reconhecimento facial às autoridades”, acrescentou. “Não existem leis federais que limitem a forma como o FBI e outras agências utilizam esta tecnologia invasiva, e as suas próprias políticas são demasiado frouxas. Desde que seja um oeste selvagem em termos de utilização, não há desculpa para retroceder.” ®

Atualizado para adicionar

Logo após a publicação deste artigo, recebemos uma resposta da Amazon. O porta-voz Duncan Neasham nos disse que, no que diz respeito ao gigante da web, o uso do Rekognition pelo FBI não quebra sua moratória de proibir a polícia de usar os recursos de comparação facial da API.

“Como já dissemos muitas vezes, e continuamos a acreditar firmemente”, continuou Neasham, “as empresas e as organizações governamentais precisam usar a tecnologia existente e a nova tecnologia de forma responsável e legal. Acreditamos também que os governos devem estabelecer regulamentos para reger o uso ético da tecnologia de reconhecimento facial e estamos prontos para ajudá-los a criar regras apropriadas, se solicitado.”

Sobre se a Amazon deu conselhos ou diretrizes aos federais sobre como usar o Rekognition de forma segura e cuidadosa, o representante nos disse:

Fornecemos orientação a todos os clientes do Rekognition, incluindo clientes responsáveis pela aplicação da lei, sobre o uso adequado e responsável do Rekognition (como no caso do Rekognition). guias do desenvolvedor e em nosso Página de IA responsável), e temos uma clara Política de Utilização Aceitável e Política de IA Responsável.

Por exemplo, a Termos de serviço da AWS regem o uso de nossos serviços, incluindo as Seções 50.8 (que se aplica ao uso do Rekognition pelas autoridades) e 50.9, que diz: “A Amazon implementou uma moratória sobre o uso do recurso de comparação facial do Amazon Rekognition pelos departamentos de polícia em conexão com investigações criminais. Esta moratória não se aplica ao uso do recurso de comparação facial do Amazon Rekognition para ajudar a identificar ou localizar pessoas desaparecidas.”