FBI schakelt Amazon Rekognition AI Surveillance Tech in

Heruitgegeven door Plato

volgers: 0

De FBI is van plan de controversiële Rekognition-clouddienst van Amazon te gebruiken "om informatie en inzichten te extraheren uit rechtmatig verkregen afbeeldingen en video's", aldus documenten van het Amerikaanse ministerie van Justitie.

In zijn Agency Inventory of AI Use Cases heeft de DOJ lijsten het project, met de codenaam Tyr, bevindt zich in de ‘initiatiefase’ voor de FBI, die van plan is de technologie aan te passen en te gebruiken ‘om items te beoordelen en te identificeren die naaktheid, wapens, explosieven en andere identificerende informatie bevatten’.

Het DOJ-document vermeldt geen startdatum, maar zegt eenvoudigweg dat de Fed een op Rekognition gebaseerd, commercieel kant-en-klaar systeem zal gebruiken dat vooraf is gebouwd bij een derde partij. De FBI weigerde commentaar te geven, hoewel Amazon het beloofde Het register een verklaring als antwoord op onze vragen, die nog moet komen.

Naast het aanbieden van gezichtsherkennings- en analysediensten, Amazon zegt Rekognition kan ook zoeken naar objecten in beeld- en videobibliotheken en onder andere ‘ongepaste, ongewenste of aanstootgevende inhoud’ detecteren.

Amazon heeft dit eerder toegezegd politie voor onbepaalde tijd verbieden van het gebruik van Rekognition – maar met enkele mazen in de wet. Het bedrijf stopte echter niet met de verkoop van de dienst aan overheidsinstanties, of aan derde partijen die de technologie vervolgens aan politiewinkels zouden kunnen leveren.

Dus om eerlijk te zijn, breekt Project Tyr geen eerdere belofte van de cloudgigant. Het komt echter op een moment dat er zorgen over zijn toezicht zonder bevel lijkt te groeien, vooral wanneer de De FBI doet het het snuffelen.

Eerder deze week zei Amazon dat dit wel het geval zou zijn dood de gemakkelijke knop waardoor wetshandhavingsinstanties zonder bevel videobeelden van Ring konden opvragen. Concreet heeft Amazon de functie Verzoek om hulp in de Neighbours-app stopgezet, waardoor de zwoeger de video-opnames van Ring-klanten kon slurpen. Nu moeten agenten eerst vragen.

Deze stap werd toegejuicht door voorstanders van gegevensprivacy en burgerlijke vrijheden.

“De mogelijkheid voor wetshandhavers om de Neighbours-app te gebruiken om massaal beeldmateriaal van camerabezitters op te vragen, was altijd gevaarlijk en had een gedocumenteerd effect van het verergeren van racistische profilering”, vertelde Fight for the Future-directeur Evan Greer. Het register in een eerder interview.

Aan de andere kant zorgde het nieuws over het gebruik van Rekognition door de FBI voor een heel ander antwoord.

“Ik denk dat het belangrijk is om zowel naar de FBI- als naar de Amazon-praktijken op dit gebied te kijken”, zegt Jake Laperruque, adjunct-directeur van het Security and Surveillance Project van het Center for Democracy and Technology (CDT).

“De FBI staat een breed gebruik van gezichtsherkenning toe in onderzoeken (mensen hoeven niet eens als verdachte te worden aangemerkt om te worden gescand), programmeert zijn systemen om altijd overeenkomsten terug te sturen, zelfs als die onbetrouwbaar zijn, en verbergt het gebruik van gezichtsherkenning voor verdachten, 'vertelde Laperruque Het register.

“Met al deze factoren in het achterhoofd zou het zeer verontrustend zijn als Amazon zou zijn teruggekomen op zijn belofte om geen gezichtsherkenning aan wetshandhavers te verkopen”, voegde hij eraan toe. “Er zijn geen federale wetten die beperken hoe de FBI en andere instanties deze invasieve technologie gebruiken, en hun eigen beleid is veel te laks. Zolang het een wild westen is wat betreft gebruik, is er geen excuus voor terugval.” ®

Bijgewerkt om toe te voegen

Kort nadat dit artikel was gepubliceerd, hoorden we iets van Amazon. Woordvoerder Duncan Neasham vertelde ons dat wat de webgigant betreft het gebruik van Rekognition door de FBI niet in strijd is met het moratorium op het verbieden van de politie om de gezichtsvergelijkingsfuncties van de API te gebruiken.

“Zoals we al vaak hebben gezegd, en daar nog steeds sterk in geloven,” vervolgde Neasham, “moeten bedrijven en overheidsorganisaties bestaande en nieuwe technologie op verantwoorde en wettige wijze gebruiken. Wij zijn ook van mening dat overheden regelgeving moeten invoeren om het ethische gebruik van gezichtsherkenningstechnologie te regelen, en we zijn bereid om hen te helpen bij het ontwerpen van passende regels, indien daarom wordt gevraagd.”

Over de vraag of Amazon advies of richtlijnen heeft gegeven aan de Fed over hoe Rekognition veilig en doordacht gebruikt kan worden, vertelde de vertegenwoordiger ons:

We bieden alle Rekognition-klanten, inclusief wetshandhavingsklanten, advies over het juiste en verantwoorde gebruik van Rekognition (zoals in de Rekognition-richtlijnen). handleidingen voor ontwikkelaars en op onze Verantwoordelijke AI-pagina), en we hebben een duidelijk Aanvaardbaar gebruik beleid en Verantwoord AI-beleid.

Bijvoorbeeld, de AWS-servicevoorwaarden zijn van toepassing op het gebruik van onze diensten, waaronder secties 50.8 (die van toepassing zijn op het gebruik van Rekognition door wetshandhavers) en 50.9, waarin staat: “Amazon heeft een moratorium ingesteld op het gebruik van de gezichtsvergelijkingsfunctie van Amazon Rekognition door politiediensten in verband met strafrechtelijk onderzoek. Dit moratorium is niet van toepassing op het gebruik van de gezichtsvergelijkingsfunctie van Amazon Rekognition om vermiste personen te helpen identificeren of lokaliseren.”