«C’est un projet qui est l’équivalent numérique de l’intervention d’une escouade de forces de sécurité qui débarquerait chez vous et se mettrait à tout fouiller.»
La juriste néerlandaise Merel Hendrickx, membre de The Public Interest Litigation Project (PILP), est inquiète. Comme le relate le journal suisse Le Temps, le projet SyRI (pour System Risk Indication) «a tranquillement commencé à déployer ses effets» aux Pays-Bas.
La France n'est pas à l'abri de ce genre de mauvaises idées... Du grain à moudre pour @laquadrature ... : https://t.co/OfZmnhKnqd
— Muriel de Rengervé (@MurieldeRengerv) November 12, 2019
Sous ce nom technique, se cache un projet démarré il y a cinq ans qui vise à lutter contre la fraude sociale. Jusqu’ici, rien de révolutionnaire. Mais c’est la nature de ce dernier qui soulève un tollé au pays de Johan Cruyff.
«Le principe frappe même par son ingéniosité: il s’agit de combiner toute une série de données numériques facilement accessibles, mais qui, jusqu’ici, étaient éparpillées. Les données sont innombrables: celles que recueillent les municipalités, les autorités fiscales, l’agence des assurances maladie et invalidité, les services d’immigration ou le ministère des Affaires sociales. Un algorithme est chargé de les croiser. Et de sonner l’alarme si des “anomalies” apparaissent, soit de possibles contradictions qui mettront les inspecteurs sur la voie de fraudes éventuelles», explique le quotidien suisse.
Le manque de communication de l’État néerlandais sur les détails du fonctionnement de SyRI et le fait que ce projet ait été adopté sans débat au Parlement hérissent beaucoup de poils aux Pays-Bas. Récemment, un tribunal de La Haye a réalisé plusieurs auditions dans le cadre du combat entamé par plusieurs organisations civiles contre l’État, qui s’inquiètent de possibles violations des droits de l’homme et des libertés des citoyens. Le Temps rapporte que l’avocate de l’État a alors livré une illustration d’application du projet:
«L’exemple qu’elle livrait: imaginons une personne qui bénéficie de subventions, car elle réside dans un certain type de logement. Or SyRI constate dans le même temps une faible consommation d’eau à cette adresse. Il y a dès lors une “anomalie”, et donc matière pour les inspecteurs de l’État à mener une enquête plus poussée afin de vérifier que cette personne habite bien là où elle le prétend.»
Pour Tijmen Wisman, auteur d’une thèse sur le droit européen en matière d’objets connectés, ce type d’exemple donne la chair de poule, comme il l’a confié au quotidien suisse:
«À eux seuls, les compteurs intelligents, d’eau ou d’électricité, prennent une mesure tous les quarts d’heure. Cela fait 96 par jour, et cela suffit à vous offrir une vue très détaillée de la vie d’une personne.» D’après lui, SyRI «ouvre la porte à un État de surveillance généralisée».
Alors, Orwell à Amsterdam? Surtout pour les pauvres, à en croire Maureen Van der Pligt, syndicaliste interrogé par Le Temps. Elle note que la mise en place de ce système concerne pour le moment des zones pauvres:
«L’État avait déjà les moyens de fouiller dans votre compte en banque s’il y avait des soupçons précis contre vous. Désormais, il transforme en fraudeurs potentiels des dizaines de milliers de personnes, c’est-à-dire tous ceux qui vivent dans ces “quartiers problématiques”. Et c’est sur ces gens, les plus démunis et les plus vulnérables, que s’abat maintenant une politique répressive qui cherche à accroître contre eux tous les mécanismes de contrôle.»
Même son de cloche du côté de Christiaan van Veen, conseiller sur les nouvelles technologies auprès du rapporteur spécial de l’Onu sur l’extrême pauvreté, qui s’est également confié au quotidien de Lausanne:
«Le principal danger qui guette les États providence numérisés? C’est qu’ils servent uniquement les intérêts d’une élite d’officiels et de compagnies de la Tech. Tandis que, dans le même temps, une sous-classe infortunée, placée sous surveillance constante, vivra une dystopie numérique dans laquelle la moindre déviance sera détectée et punie.»
Du côté de l’Hexagone, c’est un projet de surveillance des réseaux sociaux pour détecter les fraudeurs qui a du mal à passer du côté de nombreux élus et de la CNIL, la Commission nationale de l’informatique et des libertés.
Le gouvernement français s’apprête en effet à plonger le nez dans vos publications sur les réseaux sociaux, histoire de dénicher les éventuels tricheurs. Inclus dans le projet de loi de finances pour 2020, la mise en place de cet algorithme d’intelligence artificielle doit être examiné cette semaine à l’Assemblée nationale.
En septembre dernier, la CNIL appelait à «faire preuve d’une grande prudence» dans la délibération de cet article classé au numéro 57 du projet de loi de finance. D’après la commission, le souhait du gouvernement pose des «questions inédites en matière de protection des données personnelles».
De Twitter à Facebook en passant par Instagram, mais également Le Bon Coin, eBay ou Price Minister, le terrain de chasse sera vaste afin «collecter en masse», comme l’explique le projet de loi. La CNIL est particulièrement concernée par une possible «collecte générale préalable de données», qui succéderait à des surveillances ciblées motivées par des «suspicions», comme c’est aujourd’hui le cas.
Plusieurs hommes politiques sont également montés au créneau comme le rapporteur de la commission des lois, Philippe Latombe (MoDem), cité par Le Figaro:
«De tels traitements de données à caractère personnel sont susceptibles d’avoir des conséquences sur les droits au respect de la vie privée et à la protection des données, mais aussi sur la libre communication des pensées et des opinions.»
Comme le note le quotidien classé à droite, même au sein de la majorité, on souhaite mettre en place des garde-fous à cette expérimentation, censée durer trois ans. Les députés LREM veulent qu’elle ne concerne que des domaines restreints, comme l’économie souterraine, la fausse domiciliation à l’étranger ou l’activité professionnelle non déclarée.
«La majorité entend aussi limiter les données exploitables par l’IA aux seules publications “manifestement rendues publiques” par les utilisateurs eux-mêmes, excluant par-là les commentaires d’amis ou de voisins plus ou moins bien intentionnés. Autre limite posée par les députés En marche! : limiter au strict minimum la durée de détention des données qui ne serviront à rien. Pour l’instant, le texte du gouvernement autorise l’administration à les conserver trente jours. La majorité entend réduire ce laps de temps à cinq jours et interdire le recours à un sous-traitant pour développer l’algorithme», explique Le Figaro.
Après le vote définitif du projet de loi de finance, qui ne devrait pas poser de problème, le fameux article 57 devra passer l’étape du Conseil constitutionnel. Si c’est le cas, le gouvernement pourrait très vite devenir… votre nouvel ami Facebook.
