Selon les organisations des droits de l'Homme, de telles erreurs pourraient coûter la vie à des gens. De plus, ce système innovant, selon des tests menés par l'ACLU, fait plus d'erreurs en examinant les visages des personnes de couleur, par exemple, les Afro-Américains sont associés plus souvent aux criminels que les autres.
«Quand 80% de confiance est un niveau acceptable pour les photos de hot-dogs, chaises, animaux ou autres cas d'utilisation des réseaux sociaux, il ne serait pas convenable pour identifier des individus avec un niveau de certitude raisonnable», a indiqué le porte-parole d'Amazon cité par le site The Verge.
Par contre, comme le relate Reuters, l'ACLU a déclaré qu'Amazon avait déjà signé des contrats avec les autorités américaines qui ont commencé à exploiter cet outil de surveillance en dépit de l'insistance de l'ACLU qui pointe que cela pourrait avoir des conséquences dramatiques.