Amazon Rekognition - Amazon Rekognition

Amazon Rekognition est une plate-forme de vision par ordinateur SaaS ( Software as a Service ) basée sur le cloud qui a été lancée en 2016. Elle a été vendue et utilisée par un certain nombre d'agences gouvernementales des États-Unis, notamment US Immigration and Customs Enforcement (ICE) et Orlando, Police de Floride , ainsi que des entités privées.

Capacités

Rekognition fournit un certain nombre de capacités de vision par ordinateur, qui peuvent être divisées en deux catégories: les algorithmes pré-entraînés sur les données collectées par Amazon ou ses partenaires, et les algorithmes qu'un utilisateur peut entraîner sur un ensemble de données personnalisé.

Depuis juillet 2019, Rekognition fournit les fonctionnalités de vision par ordinateur suivantes.

Algorithmes pré-entraînés

• Reconnaissance des célébrités en images
• Détection des attributs du visage dans les images, y compris le sexe, la tranche d'âge, les émotions (par exemple, heureux, calme, dégoûté), si le visage a une barbe ou une moustache, si le visage a des lunettes ou des lunettes de soleil, si les yeux sont ouverts, si la bouche est ouverte , si la personne sourit et l'emplacement de plusieurs marqueurs tels que les pupilles et la ligne de la mâchoire.
• Le cheminement des personnes permet de suivre les personnes via une vidéo. Un cas d'utilisation annoncé de cette capacité est de suivre les joueurs sportifs pour une analyse d'après-match.
• Détection et classification de texte dans les images
• Détection de contenu visuel dangereux

Algorithmes qu'un utilisateur peut entraîner sur un ensemble de données personnalisé

• SearchFaces permet aux utilisateurs d'importer une base de données d'images avec des visages pré-étiquetés , de former un modèle d'apprentissage automatique sur cette base de données et d'exposer le modèle en tant que service cloud avec une API . Ensuite, l'utilisateur peut publier de nouvelles images sur l'API et recevoir des informations sur les visages de l'image. L'API peut être utilisée pour exposer un certain nombre de fonctionnalités, notamment l'identification des visages de personnes connues, la comparaison de visages et la recherche de visages similaires dans une base de données.
• Vérification des utilisateurs basée sur le visage

Histoire et utilisation

2017

À la fin de 2017, le bureau du shérif du comté de Washington, dans l'Oregon , a commencé à utiliser Rekognition pour identifier les visages des suspects . Rekognition a été commercialisé comme un outil de vision par ordinateur à usage général, et un ingénieur travaillant pour le comté de Washington a décidé d'utiliser l'outil pour l'analyse faciale des suspects. La reconnaissance a été offerte au département gratuitement, et le comté de Washington est devenu le premier organisme d'application de la loi américain connu à utiliser Rekognition. En 2018, l'agence a enregistré plus de 1000 recherches faciales. Le comté, selon le Washington Post, payait en 2019 environ 7 dollars par mois pour toutes ses recherches. La relation était inconnue du public jusqu'en mai 2018. En 2018, Rekognition a également été utilisée pour aider à identifier des célébrités lors d'une émission de mariage royal.

2018

En avril 2018, il a été signalé que FamilySearch utilisait Rekognition pour permettre à ses utilisateurs de "voir à quels ancêtres ils ressemblent le plus sur la base de photographies de famille". Début 2018, le FBI a également commencé à l'utiliser comme programme pilote d'analyse de la vidéosurveillance.

En mai 2018, il a été signalé par l' ACLU que Orlando, en Floride était en cours d' exécution d' un pilote à l' aide Rekognition pour l' analyse du visage dans l' application de la loi, avec ce pilote se terminant en Juillet 2019. Après le rapport, le 22 Juin 2018, Gizmodo a indiqué que les travailleurs Amazon avait écrit une lettre au PDG Jeff Bezos lui demandant de cesser de vendre Rekognition aux forces de l'ordre américaines, en particulier ICE et Homeland Security . Une lettre a également été envoyée à Bezos par l'ACLU. Le 26 juin 2018, il a été signalé que les forces de police d'Orlando avaient cessé d'utiliser Rekognition après l'expiration de leur contrat d'essai, se réservant le droit de l'utiliser à l'avenir. Le département de police d'Orlando a déclaré qu'ils n'étaient "jamais arrivés au point de tester des images" en raison de l'ancienne infrastructure et de la faible bande passante.

En juillet 2018, l'ACLU a publié un test montrant que Rekognition avait faussement mis en correspondance 28 membres du Congrès avec des photos instantanées, en particulier des membres du Congrès de couleur. Vingt-cinq membres de la Chambre ont ensuite envoyé une lettre à Bezos, exprimant leur inquiétude au sujet de Rekognition. Amazon a répondu que le test de reconnaissance avait généré 80% de confiance, alors qu'il recommandait aux forces de l'ordre de n'utiliser que des correspondances évaluées à 99% de confiance. Le Washington Post déclare que l'Oregon demande plutôt aux agents de choisir un résultat «meilleur des cinq», au lieu de se conformer à la recommandation.

En septembre 2018, il a été signalé que Mapillary utilisait Rekognition pour lire le texte sur les panneaux de stationnement (par exemple, pas d'arrêt, pas de stationnement ou des heures de stationnement spécifiques) dans les villes.

En octobre 2018, il a été rapporté qu'Amazon avait présenté plus tôt cette année-là Rekognition à l'agence américaine de l'immigration et des douanes . Amazon a défendu l'utilisation de Rekognition par le gouvernement.

Le 1er décembre 2018, il a été rapporté que 8 législateurs démocrates avaient déclaré dans une lettre qu'Amazon n'avait "pas fourni de réponses suffisantes" à propos de Rekognition, écrivant qu'ils avaient "de sérieuses inquiétudes quant au fait que ce type de produit présente des problèmes d'exactitude importants, des lieux disproportionnés. pèse sur les communautés de couleur et pourrait étouffer la volonté des Américains d'exercer leurs droits du Premier Amendement en public. "

2019

En janvier 2019, des chercheurs du MIT ont publié une étude évaluée par des pairs affirmant que Rekognition avait plus de difficulté à identifier les femmes à la peau foncée que les concurrents tels qu'IBM et Microsoft . Dans l'étude, Rekognition a identifié à tort les femmes à la peau plus foncée comme des hommes 31% du temps, mais n'a commis aucune erreur pour les hommes à la peau claire. Amazon a qualifié le rapport de «résultats mal interprétés» de la recherche avec un «seuil de confiance par défaut» inapproprié.

En janvier 2019, les actionnaires d'Amazon "ont exhorté Amazon à cesser de vendre le logiciel Rekognition aux forces de l'ordre". En réponse, Amazon a défendu son utilisation de Rekognition, mais a soutenu une nouvelle surveillance fédérale et des directives pour «s'assurer que la technologie de reconnaissance faciale ne peut pas être utilisée pour discriminer». En février 2019, il a été signalé qu'Amazon collaborait avec l' Institut national des normes et de la technologie (NIST) pour développer des tests standardisés pour améliorer la précision et éliminer les biais avec la reconnaissance faciale.

En mars 2019, une lettre ouverte concernant Rekognition a été envoyée par un groupe d'éminents chercheurs en IA à Amazon, critiquant sa vente aux forces de l'ordre avec une cinquantaine de signatures.

En avril 2019, la Securities and Exchange Commission a déclaré à Amazon qu'elle devait voter sur deux propositions d'actionnaires visant à limiter la reconnaissance. Amazon a fait valoir que les propositions étaient un "problème de politique publique insignifiant pour la société" non lié aux activités ordinaires d'Amazon, mais leur appel a été rejeté. Le vote était fixé pour mai. La première proposition a été déposée par les actionnaires. Le 24 mai 2019, 2,4% des actionnaires ont voté pour arrêter de vendre Rekognition aux agences gouvernementales, tandis qu'une deuxième proposition appelant à une étude sur Rekognition et les droits civils a reçu un soutien de 27,5%.

En août 2019, l'ACLU a de nouveau utilisé Rekognition sur les membres du gouvernement, 26 des 120 législateurs de Californie ayant été signalés comme des correspondances à des photos. Amazon a déclaré que l'ACLU «utilisait abusivement» le logiciel dans les tests, en ne rejetant pas les résultats qui n'atteignaient pas le seuil de précision recommandé par Amazon de 99%. En août 2019, il y avait eu des protestations contre l'utilisation par ICE de Rekognition pour surveiller les immigrants.

En mars 2019, Amazon a annoncé une mise à jour de Rekognition qui améliorerait la détection émotionnelle, et en août 2019, la «peur» a été ajoutée aux émotions que Rekognition pouvait détecter.

2020

En juin 2020, Amazon a annoncé la mise en œuvre d'un moratoire d' un an sur l'utilisation par la police de Rekognition, en réponse aux manifestations de George Floyd .

Polémique concernant l'analyse faciale

Préjugés raciaux et sexistes

En 2018, les chercheurs du MIT Joy Buolamwini et Timnit Gebru ont publié une étude intitulée Gender Shades. Dans cette étude, un ensemble d'images a été collecté et les visages sur les images ont été étiquetés avec des informations sur la position du visage, le sexe et le teint. Les images ont été exécutées via les plates-formes de reconnaissance faciale SaaS de Face ++ , IBM et Microsoft . Sur ces trois plates-formes, les classificateurs ont obtenu les meilleurs résultats sur les visages masculins (avec des taux d'erreur sur les visages féminins étant de 8,1% à 20,6% plus élevés que les taux d'erreur sur les visages masculins), et ils ont obtenu les pires performances sur les visages féminins sombres (avec des taux d'erreur allant de 20,8% à 30,4%). Les auteurs ont émis l'hypothèse que cet écart est principalement dû au fait que Megvii, IBM et Microsoft ont plus de mâles clairs que de femelles foncées dans leurs données d'entraînement, c'est-à-dire le biais de l'ensemble de données.

En janvier 2019, les chercheurs Inioluwa Deborah Raji et Joy Buolamwini ont publié un article de suivi qui a relancé l'expérience un an plus tard, sur les dernières versions des trois mêmes plates-formes de reconnaissance faciale SaaS, ainsi que de deux plates-formes supplémentaires: Kairos et Amazon Rekognition. Alors que les taux d'erreur globaux des systèmes se sont améliorés par rapport à l'année précédente, les cinq systèmes ont de nouveau obtenu de meilleurs résultats sur les visages masculins que sur les visages féminins foncés.

Voir également

• Amazon Lex
• Turc mécanique d'Amazon
• Amazon Polly
• Amazon SageMaker
• Services Web Amazon
• Système de reconnaissance faciale
• Chronologie d'Amazon Web Services

Les références