La reconnaissance faciale est en passe d'envahir notre quotidien pour le meilleur et pour le pire. Signe de cette omniprésence, le CES de Las Vegas 2019 (plus grand salon high-tech au monde) qui a vu la présentation d'un bon nombre de produits utilisant la reconnaissance faciale. Si cette technologie est autant plébiscitée, c'est qu'elle peut simplifier la vie de milliers de personne. On pense notamment au système Parafe (Passage automatisé rapide aux frontières extérieures) dans certains aéroports, à la face ID développé par Apple qui permet de déverrouiller son téléphone avec son visage ou encore au nouveau service de paiement par selfie développé par VisionLabs et SWiP (système de paiement russe). Par ailleurs, outre l'aspect pratique, la reconnaissance faciale peut revêtir un caractère vital. En effet, l'application Face2Gene, qui a récemment vu le jour, permet de détecter des maladies rares simplement en analysant une photographie.
Pourtant, une utilisation de cette technologie à mauvais escient peut devenir liberticide. C'est ainsi que la Chine surveille par exemple la communauté musulmane Ouïghour et d'autres régimes autocratiques pourraient bien être tentés de recourir à la reconnaissance faciale pour tracer les mouvements de leurs opposants politiques. À ce titre, le directeur juridique de Microsoft, Bradford L. Smith, a rédigé une tribune, appelant les États a règlementé son utilisation: «Imaginez un gouvernement suivant à la trace chacun de vos déplacements au cours du dernier mois, sans votre permission ou sans que vous ne le sachiez. […] Imaginez une base de données de toutes les personnes ayant assisté à un rassemblement politique», explique Bradford Smith. Selon lui, «Nous vivons dans une nation de lois, et le gouvernement doit jouer un rôle important dans la réglementation. Un monde avec une réglementation vigoureuse des produits qui sont utiles mais potentiellement "troublants" est mieux qu'un monde dépourvu de normes juridiques.» Me Thierry Vallat, avocat spécialisé en droit du numérique, interrogé par Sputnik France, partage les craintes du directeur juridique de Microsoft.
«On voit des intrusions de plus en plus importantes, de plus en plus ciblées qui impactent nos libertés individuelles et notre liberté de mouvement. Si vous êtes dans une foule, vous êtes dans une ville et qu'une caméra de surveillance couplée avec un système de reconnaissance faciale vous détecte, que vos faits et gestes sont connus de tout le monde, il y a lieu de s'inquiéter sur les utilisations que pourraient être faites de manière plus ou moins compatibles avec nos libertés individuelles par les administrations ou les institutions gouvernementales.»
Les algorithmes des logiciels de reconnaissance faciale étant paramétrés par les humains, les risques de dérives sont donc possibles.
«Les critères impossibles à utiliser sont les critères de race, de sexe, après tout dépend de ce que l'on veut faire mais en principe la seule chose qui peut être utilisée ce sont des critères objectifs, qui sont les points de reconnaissances du visage », rappelle l'avocat.
Une ligne rouge vient pourtant d'être franchie, selon Me Thierry Vallat, avec l'expérimentation du projet-pilote «iBorderCtrl» aux frontières hongroises, grecques et lettones. Ce nouveau système d'intelligence artificielle, testé pendant 6 mois, permettra d'assister les agents lors des contrôles à l'immigration en analysant les réactions faciales pour déterminer si les passagers en transit mentent. Les questions posées seront personnalisées en fonction du genre, de l'apparence ethnique et de la langue des voyageurs. Ce système ne pourra être utilisé que sur les ressortissants non-européens consentants.
«Il est totalement, selon moi, hors de question de pouvoir utiliser des considérations raciales, ou de provenances ethniques ou de pays pour nourrir une IA qui va ensuite sur la base de je ne sais quel algorithme va pouvoir interpréter votre caractère criminogène potentiel, on est un petit peu dans minority report, une espèce de justice prédictive très dangereuse » déclare l'avocat.
Faut-il mettre en place une nouvelle législation pour encadrer la reconnaissance faciale et se prémunir des dérives potentielles liées à celle-ci? Selon Me Thierry Vallat, «des organismes comme la CNIL doivent, bien évidemment, être associés. Il est tout à fait indispensable que tout cela soit fait sous contrôle.» Néanmoins, pour l'avocat spécialisé en droit numérique, l'arsenal juridique existe déjà.
«Ce n'est pas tellement un problème de remettre une loi, un décret ou une directive au niveau européen. Aujourd'hui, on a un certain nombre de textes qui régissent tous ces problèmes encore faut-il les appliquer, encore faut-il que les citoyens soient également prévenus que leurs données sont utilisées, qu'ils sont " traqués "».
Sans garde-fous, les libertés individuelles et les données personnelles pourraient être «sacrifiées sur l'autel de la surveillance et de tous les problèmes de sécurité qui existent malheureusement aujourd'hui avec les menaces notamment terroristes», déplore Me Thierry Vallat.
Au-delà de l'aspect sécuritaire, la reconnaissance faciale peut s'avérer particulièrement intéressante en terme de coût. Dans le sud de la France, des lycées souhaitent remplacer les surveillants à l'entrée principale afin de détecter les élèves étrangers à l'établissement grâce à un portique de sécurité équipé d'un logiciel de reconnaissance faciale.
«C'est plus facile d'utilisation que les surveillants et c'est surtout moins cher. On essaie d'évacuer l'élément humain le plus possible parce qu'il est salarié, il peut être malade, il peut se mettre en grève. La reconnaissance faciale, elle, une fois qu'elle est installée et amortie, il n'y a pas de problème, elle fonctionne tous les jours de l'année» conclut Me Thierry Vallat.