in

La reconnaissance faciale d’Amazon a fait correspondre 28 membres du Congrès à des photos d’agressions criminelles

Le nouveau test ACLU illustre les limites du système de reconnaissance faciale Rekognition d’Amazon.

La reconnaissance faciale d’Amazon a fait correspondre 28 membres du Congrès à des photos d’agressions criminelles

L’American Civil Liberties Union a testé le système de reconnaissance faciale d’Amazon – et les résultats n’étaient pas bons. Pour tester l’exactitude du système, l’ACLU a scanné les visages des 535 membres du congrès contre 25 000 photos publiques, en utilisant l’API de reconnaissance ouverte d’Amazon. Aucun des membres du Congrès n’était dans la liste des suspects, mais le système d’Amazon a généré 28 fausses correspondances, ce qui, selon l’ACLU, soulève de sérieuses inquiétudes quant à l’utilisation de Rekognition par la police.

 

UNE IDENTIFICATION…. POURRAIT PRIVER LES GENS DE LEUR LIBERTÉ

« Une identification – qu’elle soit exacte ou non – pourrait coûter la liberté ou même la vie des gens « , a déclaré le groupe dans une déclaration d’accompagnement. « Le Congrès doit prendre ces menaces au sérieux, freiner et décréter un moratoire sur l’utilisation de la reconnaissance faciale par les forces de l’ordre. »

« Alors que la confiance à 80 % est un seuil acceptable pour les photos de hot-dogs, de chaises, d’animaux ou d’autres cas d’utilisation des médias sociaux « ,

a déclaré le représentant,  » il ne serait pas approprié d’identifier les individus avec un niveau raisonnable de certitude « . Néanmoins, Rekognition n’applique pas cette recommandation pendant le processus d’installation, et rien n’empêche les organismes d’application de la loi d’utiliser le paramètre par défaut.

La reconnaissance faciale d’Amazon a pris de l’importance en mai, lorsqu’un rapport de l’ACLU a montré que le système était utilisé par un certain nombre d’organismes d’application de la loi, y compris un projet pilote de reconnaissance en temps réel par la police d’Orlando. Vendu dans le cadre de l’offre de cloud services Web d’Amazon, le logiciel était extrêmement bon marché, coûtant souvent moins de 12 $ par mois pour l’ensemble d’un département. Le projet pilote d’Orlando a expiré depuis, bien que le ministère continue d’utiliser le système.

CE N’EST PAS HYPOTHÉTIQUE

les limites du système de reconnaissance faciale Rekognition d'Amazon.
les limites du système de reconnaissance faciale Rekognition d’Amazon.

La comparaison des visages avec une base de données sans correspondance peut sembler être une recette pour l’échec, mais elle est similaire aux conditions auxquelles les systèmes de reconnaissance faciale existants sont confrontés tous les jours. Le système utilisé par la police métropolitaine de Londres produit jusqu’à 49 fausses correspondances pour chaque résultat, ce qui oblige la police à trier les faux positifs manuellement. Ce qui est plus significatif, c’est le taux auquel les faux positifs sont apparus dans les tests de reconnaissance, plus de cinq pour cent du groupe de sujets déclenchant une fausse correspondance d’une sorte ou d’une autre.

Dans la pratique, la plupart des cartes d’identité de reconnaissance faciale seraient confirmées par un humain avant d’aboutir à quelque chose d’aussi concret qu’une arrestation – mais les critiques disent que même la vérification de l’identité d’une personne peut causer des dommages. « Imaginez un policier qui obtient une fausse correspondance pour quelqu’un qui a été arrêté avec une arme dissimulée « , dit Snow. « Il y a un danger réel si cette information est communiquée à l’agent au cours d’un arrêt. Il n’est pas difficile de l’imaginer devenir violent. »

Le test soulève également des inquiétudes quant à la facilité avec laquelle Rekognition peut être déployée sans surveillance. Toutes les données de l’ACLU ont été recueillies à partir de sources publiques, y compris les 25 000 photos d’identité. (L’organisation a refusé de nommer la source spécifique pour des raisons de confidentialité, mais de nombreux États traitent les photos d’identité comme des documents publics. Le système d’Amazon est également beaucoup moins cher que les offres non basées sur le cloud, ne facturant à l’ACLU que 12,33 $ pour les tests.

N’oubliez pas de partager l’info avec vos proches !

What do you think?

Comments

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Loading…

Can You Guess What Type Of Music Each Person Is Listening To? Trivia Quiz

Michael Cohen claims Trump knew in advance of 2016 Trump Tower meeting