La France veut rendre permanente la surveillance à la manière des JO

Ce mois-ci, lorsque le nouveau Premier ministre d'Emmanuel Macron, Michel Barnier, a présenté son premier programme gouvernemental à l'Assemblée nationale, une grande attention s'est naturellement portée sur le budget et l'immigration. Mais une ligne apparemment jetable a souligné un autre aspect de la sécurité et du maintien de l’ordre. “Nous généraliserons les méthodes expérimentées lors des Jeux olympiques et paralympiques”, a promis Barnier.

J'ai déjà écrit pour jacobin à propos de la vidéosurveillance algorithmique controversée que la France a déployée avant les Jeux olympiques – un test qui était censé durer jusqu'en mars 2025 et concerner uniquement les événements publics à grande échelle comme les matchs sportifs et les concerts. Des experts en surveillance et en droits de l’homme m’ont parlé des effets débilitants qu’une telle surveillance de masse peut avoir sur la dissidence et les manifestations pacifiques – créant un « effet dissuasif » dissuasif.

“Vous habituez les gens à cet environnement de 'capitalisme de célébration' des Jeux olympiques, et ensuite cette nouvelle technologie qui a été injectée pendant les Jeux dans cet état d'exception devient la norme pour le maintien de l'ordre à l'avenir”, Jules Boykoff, un politologue qui a publié plusieurs livres sur les Jeux olympiques, avait alors prévenu.

Comme par hasard, dès la fin des Jeux olympiques, un grand nombre de politiciens macronistes ont commencé à forger un consensus autour de la nécessité de conserver cette technologie, qui n’a pas encore été étudiée ou analysée de manière indépendante.

En septembre, moins de deux semaines après la cérémonie de clôture des Jeux Paralympiques, le préfet de police de Paris, Laurent Nuñez, s'est déclaré « favorable » à l'extension de la technologie. La chaîne d'information France Info, citant une source gouvernementale, a rapporté que le ministre de l'Intérieur de Barnier envisageait également de pérenniser cette technologie. (Actuellement, un projet de loi lancé par un membre de son parti de droite, les Républicains, propose une prolongation de trois ans.) Le discours de Barnier, bien qu'il ne mentionne pas spécifiquement l'outil de vidéosurveillance algorithmique, va dans la même direction.

« Le gouvernement va faire tout ce qui est en son pouvoir pour consolider [algorithmic video surveillance technology]”, m'a dit au téléphone Élisa Martin, membre de France Insoumise, de gauche. “Nous en sommes absolument certains.”

« Une vitrine de la sécurité pour le monde »

Le 26 juillet, alors que des centaines de bateaux transportant des athlètes olympiques descendaient la Seine lors d'une cérémonie d'ouverture sous la pluie et regardée par vingt-cinq millions de téléspectateurs dans le monde, un autre spectacle se déroulait sous terre. Sur les quais du métro de la capitale française, près de cinq cents caméras de surveillance de pointe capturaient et analysaient les comportements humains en temps réel, assistées par un outil d'intelligence artificielle appelé CityVision. La technologie basée sur l'IA, produite par une start-up française, a été déployée dans tout le métro.

En surface, 45 000 policiers nationaux et 20 000 militaires supplémentaires patrouillaient dans la ville. On estime que cinquante-trois drones ont été abattus par des unités militaires anti-drones au cours des premiers jours des Jeux.

« Les JO, et notamment la cérémonie d'ouverture sur la Seine, ont été vendus comme « une vitrine sécuritaire pour le monde et un moment d'expérimentation », m'a expliqué Noémie Levain, juriste à La Quadrature du Net, une ONG de défense des droits numériques.

Après que l'Assemblée nationale a adopté un projet de loi omnibus sur les Jeux olympiques le 19 mai 2023, qui prévoyait, entre autres, la légalisation des outils de surveillance de masse assistés par l'IA, des start-up technologiques françaises ont présenté des offres pour des contrats olympiques – dont plusieurs ont ensuite été sélectionnées en janvier 2024. L’une d’elles a été comparée à une version française de Palantir – la société de surveillance appartenant à Peter Thiel, surtout connue pour son outil de police discriminatoire utilisé dans des villes comme Los Angeles, qui devrait accueillir les prochains Jeux olympiques d’été en 2028.

« Le pain quotidien de ces entreprises, c’est l’analyse des corps humains », m’a expliqué Levain. « L’idée est de les analyser, de les classer et d’obtenir des données. »

L’outil, tel qu’il est actuellement prévu, est censé détecter des « événements prédéterminés », comme une attaque terroriste ou un « mouvement de foule inhabituel ». Mais les chercheurs craignent que l’utilisation accrue d’algorithmes dans la police prédictive, qui utilisent des statistiques à caractère raciste comme entrée initiale, ne crée un pipeline pour une surveillance supplémentaire des communautés vulnérables. “De plus en plus de preuves suggèrent que des préjugés humains ont été intégrés à ces outils parce que les modèles d'apprentissage automatique sont formés sur des données policières biaisées”, a écrit Will Douglas Heaven dans Revue technologique du MIT.

Dans le cas français, on sait peu de choses sur la manière dont ces technologies fonctionnent réellement et à quel moment elles sont déployées par la police, a déclaré Yoann Nabat, juriste et maître de conférences à l'Université de Bordeaux. «C'est une boîte noire», m'a-t-il dit.

La vidéosurveillance algorithmique « n’est censée être qu’une aide à la décision », a ajouté Nabat. «Il est censé alerter la personne derrière les écrans pour lui dire : 'Attention, il faut regarder à cet endroit, à cette heure-là.' Sauf qu’il y a une frontière mince entre l’automatisation et l’interaction humaine. Nous savons qu'en raison du manque de ressources existantes, cette décision soutien se transforme souvent en décision elle-même.

From Experiment to Fait Accompli

On a beaucoup écrit sur la doctrine du choc – la période qui suit souvent une catastrophe naturelle au cours de laquelle des entreprises privées semblables à des vautours se précipitent pour prendre le contrôle des services publics. Selon Boykoff, un processus similaire se déroule avant, pendant et après des méga-événements comme les Jeux olympiques.

Katia Roux, responsable du plaidoyer à Amnesty International France, a décrit un phénomène similaire en France. « Nous n'avons pas encore eu le bilan », m'a-t-elle dit à propos des outils de surveillance des Jeux olympiques. Pourtant, « il existe une volonté politique claire de légaliser cette technologie et les Jeux olympiques n’étaient qu’un moyen de mettre un pied dans la porte ».

Elia Verdon, membre de l'Observatoire français de la surveillance et de la démocratie, partage cet avis. “Je pense qu'il faut faire attention aux périodes d'expérimentation”, a-t-elle prévenu. “On finit par accepter une technologie à un moment donné en réponse à une menace éventuelle, et puis à la menace suivante, ils vont encore plus loin.”

Après s'être prononcés en faveur de la nouvelle technologie, Barnier et Nuñez sont revenus sur leurs déclarations sur la prolongation des mesures, affirmant qu'ils attendaient toujours les résultats d'un rapport gouvernemental qui doit être présenté au Parlement d'ici la fin du mois. année. Mais il semble que le public français ait déjà été influencé par la rhétorique du gouvernement : un récent sondage montrant que 65 % des Français étaient favorables à une surveillance vidéo accrue dans l’espace public.

“Si c'est jugé réussi, ils le prolongeront”, a déclaré Levain, de La Quadrature du Net. « Si ce n'est pas le cas, ils diront que nous avons besoin de plus d'expériences. Il y a tellement d’acteurs impliqués, tellement d’argent, tellement de lobbying, qu’ils ne vont pas simplement dire : « Très bien, arrêtons. » »

Avec un gouvernement de plus en plus intransigeant qui utilise l’immigration comme un levier pour adopter des politiques restrictives, il est difficile d’imaginer que l’armée d’entreprises privées de ce que Macron appelle sa « nation start-up » n’intensifiera pas ses offres.

En rapport