FTC proíbe Rite Aid de usar reconhecimento facial por 5 anos

Republicado por Platão

seguidores: 0

A Comissão Federal de Comércio dos EUA (FTC) proibiu a rede americana de drogarias Rite Aid de usar tecnologia de reconhecimento facial de IA para fins de vigilância por cinco anos.

A cadeia de implantado a tecnologia por oito anos em 200 lojas para ajudar a identificar aqueles que já haviam furtado em seus pontos de venda. Se um fósforo fosse detectado, a equipe de segurança confrontaria o potencial ladrão e ordenaria que ele fosse embora.

Mas a Rite Aid muitas vezes errou: a FTC afirmou “Durante um período de cinco dias, a Rite Aid gerou mais de 900 alertas separados em mais de 130 lojas de Nova York a Seattle, todos alegando corresponder a uma única imagem no banco de dados.”

Segundo a Comissão, o retalhista “não conseguiu implementar procedimentos razoáveis e evitar danos aos consumidores na utilização da tecnologia de reconhecimento facial em centenas de lojas”.

O banco de dados de reconhecimento facial da empresa foi construído por duas empresas contratadas pela Rite Aid e incluía imagens representando dezenas de milhares de indivíduos. Muitas das imagens, alegou a FTC, eram de baixa qualidade e vinham de câmeras de segurança de lojas, telefones de funcionários e até mesmo de notícias.

Isto resultou em milhares de falsos positivos e permitiu que os alvos fossem seguidos, revistados, assediados, removidos e a polícia fosse chamada a eles – por vezes na frente de amigos e familiares. A FTC também descobriu que ações instigadas pelo reconhecimento facial impactaram desproporcionalmente as pessoas de cor.

“A tecnologia às vezes combinava clientes com pessoas que haviam sido originalmente inscritas no banco de dados com base em atividades a milhares de quilômetros de distância, ou sinalizava a mesma pessoa em dezenas de lojas diferentes em todos os Estados Unidos”, observa a comissão.

Comissário Álvaro M Bedoya dito que entre os falsos positivos estava uma menina de 11 anos que foi posteriormente revistada.

A FTC afirma que a Rite Aid nunca testou, avaliou, mediu ou documentou a precisão da tecnologia. A rede também desencorajou os funcionários a revelarem falhas e não os treinou na tecnologia.

A Rite Aid parou de usar a tecnologia após reportagens da mídia em 2020. A rede considerou essa decisão tomada “em parte com base em uma conversa mais ampla do setor”.

A FTC ordenou que a Rite Aid tomasse uma lista de medidas, incluindo a exclusão de quaisquer imagens ou fotos coletadas para o sistema de reconhecimento facial, bem como algoritmos ou produtos relacionados; notificar os consumidores; responder às reclamações relacionadas dos consumidores por escrito e fornecer aviso claro aos compradores sobre qualquer tecnologia de vigilância biométrica nas lojas; excluir quaisquer dados biométricos coletados dentro de cinco anos; implementar um programa de segurança de dados; obter avaliações independentes de terceiros e fornecer à comissão uma certificação anual de seu CEO sobre sua adesão.

Rite Aid disse em um comunicado:

Temos o prazer de chegar a um acordo com a FTC e deixar este assunto para trás. Respeitamos a investigação da FTC e estamos alinhados com a missão da agência de proteger a privacidade do consumidor. No entanto, discordamos fundamentalmente das alegações de reconhecimento facial na denúncia da agência. As alegações referem-se a um programa piloto de tecnologia de reconhecimento facial que a Empresa implantou em um número limitado de lojas. A Rite Aid parou de usar a tecnologia neste pequeno grupo de lojas há mais de três anos, antes do início da investigação da FTC sobre o uso da tecnologia pela Empresa.

A missão da Rite Aid sempre foi e continuará a ser servir com segurança e conveniência as comunidades onde operamos. A segurança de nossos associados e clientes é primordial. Como parte do acordo com a FTC, continuaremos a melhorar e a formalizar as práticas e políticas do nosso programa abrangente de segurança da informação.

Olhando para o futuro, estamos concentrados nas importantes ações em curso para fortalecer a nossa posição financeira, à medida que continuamos a fornecer produtos e serviços de saúde líderes aos quase um milhão de clientes que servimos diariamente.”

Em outubro 2023, a empresa arquivada para a falência do Capítulo 11 graças a uma grande dívida, queda nas vendas e milhares de ações judiciais alegando envolvimento na crise dos opiáceos. ®