Staten Island DA utilise la technologie de reconnaissance faciale Clearview

L’île de Staten L’utilisation par le procureur de district du très controversé système de reconnaissance faciale Clearview comprenait des tentatives de déterrer les comptes de médias sociaux des victimes d’homicide et a été payée avec de l’argent de confiscation d’actifs tout aussi controversé, selon les dossiers de la ville fournis à The Intercept.

Clearview a attiré l’attention internationale et des critiques intenses pour sa simple prémisse : et si vous pouviez identifier instantanément n’importe qui dans le monde avec seulement sa photo ? À l’aide de milliards d’images extraites de sites de médias sociaux, Clearview vend à la police et à d’autres agences gouvernementales la possibilité de faire correspondre une photo à un nom en utilisant la reconnaissance faciale, aucun mandat de recherche requis – un pouvoir que les libertaires civils et les défenseurs de la vie privée disent simplement placer trop de pouvoir sans surveillance dans les mains de la police.

L’utilisation de Clearview par le bureau du procureur du district de Staten Island a été signalée pour la première fois par Gothamist, citant des archives municipales obtenues par la Legal Aid Society. Les enregistrements ultérieurs obtenus via la demande de la loi sur la liberté d’information de l’État de New York et fournis à The Intercept confirment maintenant les préoccupations initiales concernant l’utilisation largement non supervisée de l’outil par les procureurs. Selon le porte-parole Ryan Lavis, le bureau du procureur “a complètement cessé d’utiliser Clearview comme outil d’enquête l’année dernière”.

Pourtant, les documents fournissent de nouvelles informations sur la façon dont les procureurs de Staten Island ont utilisé l’outil de reconnaissance faciale notoire et montrent que le logiciel a été payé avec des fonds fournis par le programme de partage équitable du ministère de la Justice. Le programme permet à la police d’État et locale de remettre l’argent et les biens saisis à un organisme fédéral chargé de l’application de la loi, après quoi jusqu’à 80 % du produit est ensuite renvoyé à l’État ou au département local d’origine pour empocher.

Une lettre du 2 mai adressée au procureur général Merrick Garland par les représentants Jamie Raskin, D-Md., et Nancy Mace, RS.C., a allégué que le programme fédéral est régulièrement abusé par la police. “Nous craignons que le programme de partage équitable ne crée une échappatoire permettant aux forces de l’ordre nationales et locales de saisir les actifs des individus sans porter d’accusations pénales ni de condamnation, même dans les États qui interdisent la confiscation des actifs civils”, lit-on dans la lettre, rapportée pour la première fois par The Hill. .

Les dossiers publics remis à la Legal Aid Society en réponse à sa demande d’informations sur la façon dont le bureau du procureur de Staten Island a payé Clearview comprenaient un document intitulé “Guide du partage équitable pour les agences d’application de la loi d’État, locales et tribales”, qui décrit le programme et comment les entités étatiques peuvent en faire usage. Dans une lettre envoyée à la Legal Aid Society et partagée avec The Intercept, le bureau du procureur a confirmé que le produit de la confiscation fédérale avait payé sa licence Clearview. La confiscation d’actifs est devenue un moyen controversé et fréquemment abusé de remplir les budgets des départements à travers le pays, et les critiques affirment que le programme de partage équitable fournit à la police des États des lois limitant les saisies d’actifs avec une solution de contournement fédérale pratique. Alors que la confiscation civile des biens est autorisée à New York, l’État impose certaines limites sur la manière et le moment où les saisies peuvent être effectuées, des règles que le programme fédéral pourrait laisser contourner un procureur de district local.

“La révélation que les fonds utilisés pour accéder au service Clearview AI provenaient de biens obtenus sans procédure régulière, des mêmes personnes les plus exposées aux conséquences dévastatrices de ses défauts, est presque dystopique”, a déclaré Diane Akerman, avocate. avec l’unité de criminalistique numérique de la Legal Aid Society. “De manière perverse, les communautés les plus surveillées et les plus ciblées paieraient la facture d’une telle surveillance par le biais de saisies policières de leurs biens”, a ajouté Akerman.

Albert Fox Cahn, directeur exécutif du projet de surveillance des technologies de surveillance basé à New York, a déclaré à The Intercept qu’il y avait une pertinence troublante pour le financement. “Vous avez des New-Yorkais dont les actifs sont volés par la police pour payer un logiciel de reconnaissance faciale qui fonctionne en volant nos visages sur les réseaux sociaux”, a noté Cahn dans une interview. Pour faire face à des critiques de reconnaissance comme Cahn, Clearview est emblématique de la capacité de la technologie à éradiquer simultanément les attentes en matière de confidentialité et à renforcer les pouvoirs de surveillance de l’État. «Il y a ce schéma ici de l’argent et des données du public pris sans consentement de ces manières qui sont considérées comme légales mais qui semblent criminelles. … Ces types d’outils de recherche détruisent non seulement notre vie privée, mais érodent le fondement de la démocratie.

Parmi les documents divulgués figure une longue liste, bien que presque entièrement expurgée, de recherches Clearview menées par le bureau du procureur de 2019 à 2021, y compris l’objectif général des requêtes et les noms des cibles, que The Intercept a expurgé pour protéger la vie privée de ceux examinés par le DA. Ces journaux de recherche indiquent qu’à de nombreuses reprises, Clearview a été exploité non pas pour identifier des suspects dans des enquêtes criminelles, mais pour trouver et rechercher dans les historiques des médias sociaux des personnes dont l’identité était déjà connue, y compris les victimes d’homicide et le « personnel » non spécifié. Une note manuscrite annexée à une recherche effectuée en janvier 2020 indique également que le bureau du DA a utilisé Clearview pour aider dans un “cas d’expulsion” – une enquête d’application de la loi qui ne relève généralement pas du mandat du DA, en particulier compte tenu du statut de New York en tant que soi-disant sanctuaire ville. “Malgré ce que nous prétendons être une ville sanctuaire, il n’y a aucune loi à New York qui empêche un bureau conservateur du procureur comme Staten Island de s’associer à l’ICE”, a déclaré Cahn, faisant référence à l’Immigration and Customs Enforcement des États-Unis.

Les enregistrements de recherche montrent comment la technologie de reconnaissance faciale ne se contente pas de proliférer parmi les agences gouvernementales, mais est également utilisée dans des applications plus larges que ce à quoi le public pourrait s’attendre. “Généralement, l’utilisation de la technologie de reconnaissance faciale par le NYPD a consisté à tenter d’identifier inconnue témoins ou suspects », a expliqué Akerman. “Le bureau du procureur du comté de Richmond” – le comté de Richmond est coextensif avec l’arrondissement de Staten Island, et le DA fonctionne comme un fonctionnaire du comté – “s’engage dans une nouvelle utilisation de la technologie – comme une forme de surveillance des médias sociaux d’une personne connue .” Akerman a souligné le fait que le département de police de New York, la plus grande force de police du pays, utilise déjà des technologies de reconnaissance faciale et s’est demandé pourquoi le plus petit bureau du procureur de la ville avait besoin d’un outil aussi puissant. Akerman a également remis en question la nécessité d’un outil aussi puissant étant donné que les procureurs obtiennent déjà régulièrement des données personnelles intimes sur des individus lors d’enquêtes criminelles. “Les bureaux de DA obtiennent déjà des mandats, qui sont en grande partie approuvés, pour fouiller les téléphones portables, les médias sociaux, les enregistrements de localisation des téléphones, etc., qu’il y ait ou non un lien avec l’incident.”

Bien que la reconnaissance faciale soit une technologie potentiellement invasive et dangereuse, peu importe comment et où elle est déployée, Clearview, soutenu par Peter Thiel, et son fondateur de droite sont devenus emblématiques de la menace que représente ce logiciel puissant et généralement non supervisé, en particulier compte tenu de son adoption rapide. par les forces de police de tout le pays. Alors que l’entreprise vend déjà avec empressement son logiciel aux services de police avides de surveillance, ses ambitions sont bien plus grandes. En février, le Washington Post a rapporté que Clearview s’était récemment vanté auprès des investisseurs qu’il travaillait à étendre sa base de données de visages à 100 milliards d’images d’ici l’année prochaine, un nombre qui, selon lui, signifierait que “presque tout le monde dans le monde sera identifiable” avec un simple instantané. Signe que la société élargit sa clientèle en plus de ses capacités, l’armée ukrainienne aurait commencé à utiliser Clearview pour identifier les cadavres russes.

Les détracteurs de Clearview affirment que la technologie représente une menace intenable pour la vie privée et, du fait qu’elle ne nécessite aucun contrôle judiciaire, une attaque contre les protections du quatrième amendement contre les fouilles indues. Le degré de précision de Clearview n’est pas clair, fournissant un autre klaxon aux défenseurs des libertés civiles, quelle que soit son efficacité : si la technologie fonctionne comme annoncé, ses pouvoirs de surveillance constituent une menace existentielle pour le droit à la vie privée, mais si elle est inexacte, elle risque d’impliquer des personnes innocentes – en particulier des personnes de couleur – dans les crimes.

Le bureau du procureur de Staten Island a refusé de répondre aux questions sur l’utilisation étendue de Clearview documentée dans les journaux de recherche.

Cahn, du Surveillance Technology Oversight Project, a convenu que les enregistrements divulgués sont un signe inquiétant que Clearview est utilisé beaucoup plus largement qu’initialement annoncé. “Il est de plus en plus clair que Clearview n’est pas seulement un outil de reconnaissance faciale, c’est un outil de surveillance des médias sociaux”, a-t-il déclaré. “Quand tant de gens ont des comptes de médias sociaux qu’ils essaient de garder anonymes, où ils essaient de garder leur nom hors du compte, cela devient encore un autre outil pour cartographier ce que les gens disent, ce qu’ils publient, quand ils essaient de garder leur identité secrète.