La surveillance faciale d’Amazon place des parlementaires US sur une liste de criminels

Le moment où les criminels seront identifiés à l'aide de l'intelligence artificiel n'est pas aussi loin que vous pouvez le penser. Le nouveau système de surveillance d'Amazon a fait grand bruit aux États-Unis. Notamment ce logiciel, baptisé Rekognition, qui est déjà en train d'être testé dans certains départements de police, et qui avait 28 membres du Congrès des États-Unis sur sa liste des criminels, alors qu'ils sont innocents. L'Union américaine pour les libertés civiles (ACLU) avait en effet téléchargé 25.000 clichés de criminels dans la base de données de Rekognition et 535 photos officielles de membres du Congrès américain.

Selon les organisations des droits de l'Homme, de telles erreurs pourraient coûter la vie à des gens. De plus, ce système innovant, selon des tests menés par l'ACLU, fait plus d'erreurs en examinant les visages des personnes de couleur, par exemple, les Afro-Américains sont associés plus souvent aux criminels que les autres.

Donc, l'association considère que la surveillance faciale n'est pas encore suffisamment développée pour être utilisée lors d'enquêtes de police. Amazon explique pour sa part les erreurs du système par un mauvais réglage. La société précise qu'afin de poursuivre des criminels la précision de Rekognition devrait être établie à 95%, alors que lors de ces tests la précision n'était qu'au niveau de 80%.

«Quand 80% de confiance est un niveau acceptable pour les photos de hot-dogs, chaises, animaux ou autres cas d'utilisation des réseaux sociaux, il ne serait pas convenable pour identifier des individus avec un niveau de certitude raisonnable», a indiqué le porte-parole d'Amazon cité par le site The Verge.

Par contre, comme le relate Reuters, l'ACLU a déclaré qu'Amazon avait déjà signé des contrats avec les autorités américaines qui ont commencé à exploiter cet outil de surveillance en dépit de l'insistance de l'ACLU qui pointe que cela pourrait avoir des conséquences dramatiques.