L'armée israélienne aurait mis en place un système de reconnaissance faciale dans toute la bande de Gaza, scannant les Palestiniens ordinaires alors qu'ils se déplacent à travers le territoire ravagé, tentant de fuir les bombardements en cours et cherchant de la nourriture pour leurs familles.
Le programme s'appuie sur deux outils de reconnaissance faciale différents, selon le New York Times : l'un créé par l'entrepreneur israélien Corsight et l'autre intégré à la populaire plateforme d'organisation d'images grand public proposée via Google Photos. Un responsable israélien anonyme a déclaré au Times que Google Photos fonctionnait mieux que n’importe quelle autre technologie alternative de reconnaissance faciale, aidant les Israéliens à dresser une « liste noire » des combattants présumés du Hamas qui ont participé à l’attaque du 7 octobre.
La surveillance massive des visages palestiniens résultant des efforts d'Israël pour identifier les membres du Hamas a pris au piège des milliers d'habitants de Gaza depuis l'attaque du 7 octobre. Beaucoup de personnes arrêtées ou emprisonnées, souvent avec peu ou pas de preuves, ont déclaré par la suite qu'elles avaient été brutalement interrogées ou torturées. Dans son article sur la reconnaissance faciale, le Times a évoqué le poète palestinien Mosab Abu Toha, dont l’arrestation et les passages à tabac par l’armée israélienne ont commencé avec l’utilisation de la reconnaissance faciale. Abu Toha, libéré plus tard sans avoir été inculpé d’aucun crime, a déclaré au journal que les soldats israéliens lui avaient dit que son arrestation par reconnaissance faciale avait été une « erreur ».
Mis à part les questions d'exactitude (les systèmes de reconnaissance faciale sont notoirement moins précis sur les visages non blancs), l'utilisation des fonctionnalités d'analyse basées sur l'apprentissage automatique de Google Photos pour placer des civils sous surveillance militaire, ou pire, est en contradiction avec les règles clairement énoncées de l'entreprise. Sous l’en-tête « Activités dangereuses et illégales », Google prévient que Google Photos ne peut pas être utilisé « pour promouvoir des activités, des biens, des services ou des informations qui causent un préjudice grave et immédiat aux personnes ».
« Ce type de surveillance par reconnaissance faciale porte atteinte aux droits consacrés par le droit international des droits de l’homme. »
Lorsqu'on lui a demandé en quoi l'interdiction d'utiliser Google Photos à des fins nuisibles était compatible avec l'utilisation de Google Photos par l'armée israélienne pour créer une « liste noire », le porte-parole de l'entreprise, Joshua Cruz, a refusé de répondre, déclarant seulement que « Google Photos est un produit gratuit largement répandu ». accessible au public qui vous aide à organiser vos photos en regroupant des visages similaires, afin que vous puissiez étiqueter les personnes pour retrouver facilement d'anciennes photos. Il ne fournit pas l’identité des personnes inconnues sur les photographies. (Cruz n'a pas répondu aux tentatives ultérieures répétées de clarifier la position de Google.)
On ne sait pas exactement comment ces interdictions – ou les engagements publics de longue date de l’entreprise en faveur des droits de l’homme – sont appliquées à l’armée israélienne.
« Cela dépend de la manière dont Google interprète les termes « préjudice grave et immédiat » et « activité illégale », mais la surveillance par reconnaissance faciale de ce type porte atteinte aux droits consacrés par le droit international des droits de l'homme – vie privée, non-discrimination, droit d'expression, droit de réunion, etc. », a déclaré Anna Bacciarelli, directrice technique associée à Human Rights Watch. « Étant donné le contexte dans lequel cette technologie est utilisée par les forces israéliennes, dans un contexte de déni généralisé, continu et systématique des droits humains des habitants de Gaza, j’espère que Google prendra les mesures appropriées. »
Faire le bien ou faire Google ?
En plus de ses conditions de service interdisant l’utilisation de Google Photos pour nuire aux personnes, la société prétend depuis de nombreuses années adhérer à diverses normes mondiales en matière de droits de l’homme.
« Depuis la création de Google, nous croyons qu'il est important d'exploiter le pouvoir de la technologie pour faire progresser les droits de l'homme », a écrit Alexandria Walden, responsable mondiale des droits de l'homme de l'entreprise, dans un article de blog publié en 2022. « C'est pourquoi nos produits, nos opérations commerciales et nos prises de décision concernant les technologies émergentes s'appuient tous sur notre programme des droits de l'homme et notre engagement profond à accroître l'accès à l'information et à créer de nouvelles opportunités pour les personnes du monde entier.
Cet engagement profond inclut, selon l'entreprise, le respect de la Déclaration universelle des droits de l'homme – qui interdit la torture – et des Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme, qui soulignent que les conflits liés au territoire produisent certaines des pires violations des droits.
L'utilisation par l'armée israélienne d'un produit Google gratuit et accessible au public comme Photos soulève des questions sur ces engagements des entreprises en matière de droits humains et sur la mesure dans laquelle l'entreprise est réellement disposée à les respecter. Google affirme approuver et souscrire aux Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l'homme, un cadre qui appelle les entreprises à « prévenir ou atténuer les impacts négatifs sur les droits de l'homme qui sont directement liés à leurs opérations, produits ou services par leurs relations commerciales, même s’ils n’ont pas contribué à ces impacts.
Walden a également déclaré que Google soutenait le Conflict-Sensitive Human Rights Due Diligence for ICT Companies, un cadre volontaire qui aide les entreprises technologiques à éviter l'utilisation abusive de leurs produits et services dans les zones de guerre. Parmi les nombreuses recommandations du document, on demande aux entreprises comme Google d'envisager « l'utilisation de produits et de services pour la surveillance gouvernementale en violation des normes du droit international des droits de l'homme, entraînant des impacts immédiats sur la vie privée et la sécurité physique (c'est-à-dire pour localiser, arrêter et emprisonner quelqu'un). » (Ni JustPeace Labs ni Business for Social Responsibility, qui ont co-écrit le cadre de diligence raisonnable, n'ont répondu à une demande de commentaires.)
“Google et Corsight ont tous deux la responsabilité de garantir que leurs produits et services ne provoquent pas ou ne contribuent pas à des violations des droits de l'homme”, a déclaré Bacciarelli. “Je m'attendrais à ce que Google prenne des mesures immédiates pour mettre fin à l'utilisation de Google Photos dans ce système, sur la base de cette nouvelle.”
Les employés de Google participant à la campagne No Tech for Apartheid, un mouvement de protestation dirigé par les travailleurs contre le projet Nimbus, ont appelé leur employeur pour empêcher l'armée israélienne d'utiliser la reconnaissance faciale de Photos pour poursuivre la guerre à Gaza.
« Le fait que l’armée israélienne utilise même une technologie grand public comme Google Photos, en utilisant la reconnaissance faciale incluse pour identifier les Palestiniens dans le cadre de son appareil de surveillance, indique que l’armée israélienne utilisera toute technologie mise à sa disposition – à moins que Google ne prenne des mesures pour garantir leur les produits ne contribuent pas au nettoyage ethnique, à l’occupation et au génocide », a déclaré le groupe dans un communiqué partagé avec The Intercept. « En tant que travailleurs de Google, nous exigeons que l'entreprise abandonne immédiatement le projet Nimbus et cesse toute activité qui soutient le programme génocidaire du gouvernement et de l'armée israéliens visant à décimer Gaza. »
Projet Nimbus
Ce ne serait pas la première fois que les prétendus principes des droits de l’homme de Google contrediraient ses pratiques commerciales – même uniquement en Israël. Depuis 2021, Google vend à l’armée israélienne des outils avancés de cloud computing et d’apprentissage automatique dans le cadre de son contrat controversé « Projet Nimbus ».
Contrairement à Google Photos, un produit grand public gratuit accessible à tous, le Projet Nimbus est un projet logiciel sur mesure adapté aux besoins de l'État israélien. Les prouesses de Nimbus et de Google Photos en matière de correspondance de visages sont cependant le produit des immenses ressources d'apprentissage automatique de l'entreprise.
La vente de ces outils sophistiqués à un gouvernement si régulièrement accusé de violations des droits de l'homme et de crimes de guerre est en contradiction avec les principes d'IA de Google. Les lignes directrices interdisent les utilisations de l’IA susceptibles de causer un « préjudice », y compris toute application « dont le but contrevient aux principes largement acceptés du droit international et des droits de l’homme ».
Google a déjà suggéré que ses « principes » sont en fait beaucoup plus restreints qu’il n’y paraît, s’appliquant uniquement au « travail d’IA personnalisé » et non à l’utilisation générale de ses produits par des tiers. « Cela signifie que notre technologie peut être utilisée assez largement par l’armée », a déclaré un porte-parole de l’entreprise à Defense One en 2022.
Il reste difficile de savoir comment ou si Google transformera un jour ses assurances publiées sur son blog en conséquences concrètes. Ariel Koren, une ancienne employée de Google qui a déclaré avoir été forcée de quitter son emploi en 2022 après avoir protesté contre le projet Nimbus, a placé le silence de Google sur la question des photos dans le cadre d'un schéma plus large visant à éviter toute responsabilité quant à la manière dont sa technologie est utilisée.
“C'est un euphémisme de dire que le fait de faciliter et d'encourager un génocide constitue une violation des principes et des conditions de service de Google en matière d'IA”, a déclaré Koren, aujourd'hui organisateur de No Tech for Apartheid, à The Intercept. “Même en l'absence de commentaires publics, les actions de Google ont clairement montré que les principes publics d'éthique de l'IA de l'entreprise n'ont aucune incidence ni aucun poids dans les décisions commerciales de Google Cloud, et que même la complicité dans le génocide ne constitue pas un obstacle à la quête impitoyable du profit de l'entreprise. à tout prix.”
La source: theintercept.com
