Vidéosurveillance: 1984 n’était pas censé être un mode d’emploi

L’adage «pas vu, pas pris» appartient presque au passé: la vidéosurveillance est devenue si invasive que l’on est désormais capable de pister un individu tout au long de sa journée grâce aux caméras disposées sur son parcours. Un phénomène qui comporte son lot de dérives, faisant presque entrer nos sociétés libérales dans l’ère de la dystopie.
Sputnik

Le scénario semble tout droit sorti d’un film d’anticipation paranoïaque, il est pourtant celui de notre quotidien. Sortir de chez soi au petit matin, aller à pied, à vélo, en voiture ou en métro jusqu’à son lieu de travail, puis en ressortir pour boire un verre avec ses collègues et enfin rentrer chez soi en début de soirée: un parcours qu’il est très aisé de reconstituer de bout en bout de nos jours. La raison? La multiplicité de caméras fixes et mobiles qui scrutent en permanence l’espace public et les espaces privés, dont le recoupement permet de profiler un individu avec plus ou moins de réussite. L’explosion du nombre de drones équipés de caméras haute définition accentue encore davantage le phénomène.

Il ne faudrait pas croire que cette vidéosurveillance s’arrête au perron de l’entreprise. Bien au contraire, celle-ci s’y prolonge en des endroits parfois insoupçonnés. Au point de susciter régulièrement les atermoiements de la Commission nationale informatique et libertés (CNIL), lorsqu’ils ne sont pas suivis d’une sanction pour infraction constatée. Tel fut le cas d’une entreprise condamnée pour avoir disposé une caméra de surveillance délibérément braquée sur le poste de travail d’un employé.

Le phénomène, loin de faiblir dans le monde, est en plein essor avec l’appoint de l’intelligence artificielle. Car rappelons que celle-ci peut désormais accomplir certaines tâches que l’on attendait d’elle depuis des décennies grâce à trois éléments contemporains cumulatifs: la puissance et le nombre de processeurs, la datamasse et des connexions plus rapides et plus stables. La vidéosurveillance, qui autrefois réclamait la présence d’un auxiliaire humain pour traiter les informations visuelles (et plus rarement auditives) est désormais remplacée par une intelligence artificielle qui détecte, traite et catégorise les informations collectées.

Le gouvernement ouvre l’expérimentation de la reconnaissance faciale dans les lieux publics
En Chine, le système bénéficie d’un procédé de reconnaissance faciale élaboré permettant de gérer un crédit social attribué à chaque individu: de la sorte, tel citoyen sera récompensé ou puni en fonction de son attitude envers le corps social. Précisons que le social credit score est basé sur le principe du credit score initialement appliqué dans plusieurs pays anglo-saxons dont l’Australie, le Canada, le Royaume-Uni et les États-Unis.

Et ces derniers ne sont pas en reste dans son développement appliqué. Ainsi l’atteste l’affaire Clearview AI, qui propose de repérer délinquants et criminels en analysant une immense base de données constituée par les réseaux sociaux majeurs. Mentionnons aussi le succès de la jeune pousse Nexar, qui ambitionne de répertorier les mauvais conducteurs grâce à son application AI Dashcam, qui attribue à chaque conducteur une note selon sa conduite. Ce qui ouvre la voie à des interrogations sur le rôle de l’intelligence artificielle qui remplacera, après les avoir suppléés, les agents de police assermentés. Cet essor de l’intelligence artificielle et des technologies de détection des biens et des personnes pose crûment la question du fonctionnement des bases de données: depuis leur création jusqu’à leur obsolescence en passant par l’identité de leurs utilisateurs.

Vidéoverbalisé pour votre bien, puisqu’on vous le dit

Bras armé de la vidéosurveillance, la vidéoverbalisation s’est développée dans les années 2000 à partir des îles britanniques, pour essaimer ensuite sur le continent européen. Si, à ses débuts, elle s’effectuait par des contrôles automatisés se focalisant uniquement sur la vitesse, elle s’est depuis élargie à de nouvelles infractions, avec une inflation qui ne laisse désormais plus guère d’espace à la moindre erreur humaine. Les véhicules à moteur dotés d’une plaque d’immatriculation –permettant d’identifier son propriétaire, considéré comme fautif jusqu’à ce qu’il apporte la preuve de son innocence– sont ceux qui sont prioritairement visés par cette volonté de traquer la moindre déviance sur les axes de circulation. Si, autrefois, le principe était de préserver votre sécurité, y compris contre votre gré, il est désormais programmé pour protéger votre santé au travers par exemple de la détection puis de la verbalisation de véhicules circulant lors d’un pic de pollution, toujours sans votre avis.

Cependant, les cyclistes auraient grand tort de se croire intouchables, puisque d’une part la reconnaissance faciale est en cours de déploiement et que d’autre part, l’émergence des villes intelligentes leur imposera de «pucer» leur moyen de déplacement. Car lorsque les véhicules motorisés auront disparu des villes, privant les municipalités de substantielles rentrées d’argent, le moyen de locomotion majoritaire sera inéluctablement mis à contribution par des municipalités impécunieuses.

Une dystopie déjà actuelle

On ne peut, au regard du phénomène, que rester pantois devant le déploiement quasi militaire de technologies avancées en des contrées qui se gargarisent d’être des parangons des libertés. La dystopie 1984 de George Orwell avait annoncé l’émergence de notre réalité, avec son lot de télécrans omniprésents et omniscients. Les années à venir semblent conforter celle-ci avec des moyens de détection et de verbalisation toujours plus implacables et paradoxalement incontrôlables.

Cinq risques liés au développement de l'intelligence artificielle
Car, tel un colosse aux pieds d’argile, la technologie intrusive rend dépendant –à un stade parfois pathologique d’addiction– son utilisateur, le plaçant dans une situation de fragilité technologique, tout en renforçant chez ses «victimes» les velléités sociales de se défaire d’un contrôle tendant inéluctablement à l’arbitraire et à la privation de libertés.

Cela pose aussi clairement notre dessein de remplacer à terme toute décision d’ordre humain par des algorithmes, qui pourraient obéir à leur propre logique et non à nos propres intérêts. Paradoxalement, ce sont actuellement les poids lourds de l’industrie informatique américaine qui insistent pour un encadrement plus strict du phénomène, tandis que les pouvoirs publics occidentaux s’empressent quant à eux de déverrouiller chaque garde-fou. Si la France n’est pas la Chine, elle a néanmoins ouvert la porte à l’expérimentation de la reconnaissance faciale. S’agit-il simplement «d’avoir des retours sur les différents cas d’usage et sur la performance réelle de cette technologie, ainsi que sur les questions qui se posent», comme l’assurait Cédric O, secrétaire d’État au Numérique en décembre dernier, ou d’une future version française de «Big Brother is watching you»?

Discuter