Les réseaux sociaux Le géant Meta a récemment mis à jour le règlement qu’il utilise pour censurer les discussions en ligne sur les personnes et les groupes qu’il juge « dangereux », selon des documents internes obtenus par The Intercept. Cette politique avait été critiquée dans le passé pour avoir ratissé un réseau trop large qui avait fini par supprimer les contenus légitimes et non violents.
Le but du changement est de supprimer moins de ce matériau. En mettant à jour la politique, Meta, la société mère de Facebook et Instagram, a également admis en interne que la politique avait censuré les discours au-delà de ce que l’entreprise avait prévu.
La politique de Meta relative aux « organisations et individus dangereux » ou DOI est basée sur une liste noire secrète de milliers de personnes et de groupes, allant des terroristes et des cartels de la drogue aux armées rebelles et aux actes musicaux. Pendant des années, la politique a interdit aux plus d’un milliard d’utilisateurs de Facebook et d’Instagram de « féliciter, soutenir ou représenter » toute personne figurant sur la liste.
Désormais, Meta accordera une plus grande latitude aux discussions sur ces personnes et groupes interdits – à condition que cela se déroule dans le contexte du « discours social et politique », selon la politique mise à jour, qui remplace également l’interdiction générale des « éloges ». d’entités inscrites sur une liste noire avec une nouvelle interdiction de les « glorifier ».
Le langage politique mis à jour a été distribué en interne, mais Meta ne l’a pas encore divulgué publiquement au-delà d’une mention de l’exception « discours social et politique » sur la page des normes de la communauté. Les personnes et organisations figurant sur la liste noire n’ont toujours pas le droit d’avoir une présence officielle sur les plateformes de Meta.
La révision fait suite à des années de critiques à l’encontre de cette politique. L’année dernière, un audit tiers commandé par Meta a révélé que les règles de censure de l’entreprise violaient systématiquement les droits humains des Palestiniens en étouffant le discours politique, et a pointé du doigt la politique du DOI. Les nouveaux changements laissent cependant des problèmes majeurs non résolus, ont déclaré des experts à The Intercept. L’ajustement de « glorification », par exemple, est bien intentionné mais souffre probablement de la même ambiguïté qui a créé des problèmes avec la norme de « louange ».
« Changer la politique du DOI est un pas dans la bonne direction, un pas que les défenseurs des droits numériques et la société civile du monde entier réclament depuis longtemps », a déclaré à The Intercept Mona Shtaya, chercheuse non-résidente à l’Institut Tahrir pour la politique au Moyen-Orient.
Des observateurs comme Shtaya s’opposent depuis longtemps à la façon dont la politique du DOI a tendance à censurer de manière disproportionnée le discours politique dans des endroits comme la Palestine – où discuter d’une organisation interdite par Meta comme le Hamas est inévitable – contrairement à la façon dont Meta a rapidement ajusté ses règles pour permettre l’éloge de l’Ukraine. Bataillon Azov malgré ses sympathies néo-nazies.
“Les modifications récentes illustrent que Meta reconnaît la participation de certains membres du DOI aux élections”, a déclaré Shtaya. “Cependant, il leur interdit toujours l’accès à ses plateformes, ce qui peut avoir un impact significatif sur le discours politique dans ces pays et potentiellement entraver l’interaction égale et libre des citoyens avec diverses campagnes politiques.”
Des échecs reconnus
Meta soutient depuis longtemps que la politique initiale du DOI vise à empêcher les terroristes et autres extrémistes violents de causer des dommages dans le monde réel. Les spécialistes de la modération de contenu et les défenseurs de la liberté d’expression soutiennent cependant que la manière dont cette politique fonctionne dans la pratique crée une tendance à avaler et à supprimer sans discernement les discours entièrement non-violents. (Meta a refusé de commenter cette histoire.)
Dans le nouveau langage interne, Meta a reconnu les échecs de son approche rigide et a déclaré que l’entreprise tentait d’améliorer la règle. “Une approche politique fourre-tout nous a aidé à supprimer tout éloge des entités et des individus désignés sur la plateforme”, lit-on dans une note interne annonçant le changement. « Cependant, cette approche supprime également le discours social et politique et entraîne des problèmes d’application. »
La solution proposée par Meta consiste à « recatégoriser la définition de « Louange » en deux domaines : « Références à un DOI » et « Glorification des DOI ». Ces types de contenus fondamentalement différents doivent être traités différemment. De simples « références » à un groupe terroriste ou à un chef de cartel seront autorisées à condition qu’elles entrent dans l’une des 11 nouvelles catégories de discours que Meta juge acceptables :
Élections, fonctions parlementaires et exécutives, paix et résolution des conflits (trêve/cessez-le-feu/accords de paix), accords ou traités internationaux, intervention en cas de catastrophe et aide humanitaire, droits de l’homme et discours humanitaire, services communautaires locaux, descriptions neutres et informatives de l’activité ou du comportement du DOI. , Reportage d’actualité, Condamnation et critique, Satire et humour.
Les affiches seront toujours soumises à des exigences strictes pour éviter d’enfreindre la politique, même si elles tentent de participer à l’une des catégories ci-dessus. Pour rester en ligne, toute publication Facebook ou Instagram mentionnant des groupes et des personnes interdits doit « mentionner explicitement » l’un des contextes autorisés sous peine d’être supprimée. Le mémo indique que « il incombe à l’utilisateur de prouver » qu’il appartient à l’une des 11 catégories acceptables.
Selon Shtaya, chercheur à l’Institut Tahrir, l’approche révisée continue de placer les utilisateurs de Meta à la merci d’un système profondément défectueux. Elle a déclaré : « L’approche de Meta fait peser la charge de la modération du contenu sur ses utilisateurs, qui ne sont ni des experts en langues ni des historiens. »
Des conseils peu clairs
Les utilisateurs d’Instagram et de Facebook devront encore espérer que leurs propos ne seront pas interprétés par la légion externalisée de modérateurs surmenés et mal payés de Meta comme de la « glorification ». Le terme est défini en interne presque exactement dans le même langage que son prédécesseur, « éloge » : « Légitimer ou défendre des actes violents ou haineux en affirmant que ces actes ou tout type de préjudice qui en résulte ont une signification morale, politique, logique ou autre. justification qui les fait paraître acceptables ou raisonnables. Une autre section définit la glorification comme tout contenu qui « justifie ou amplifie » les croyances ou les actions « haineuses ou violentes » d’une entité interdite, ou les décrit comme « efficaces, légitimes ou défendables ».
Même si Meta souhaite que ce langage soit universel, appliquer de manière équitable et précise des étiquettes aussi subjectives que « légitimes » ou « haineuses » à l’ensemble du discours mondial en ligne s’est avéré impossible à ce jour.
« Remplacer « éloge » par « glorification » ne change pas grand-chose au flou inhérent à chaque terme », selon Ángel Díaz, professeur à la Gould School of Law de l’Université de Californie du Sud et spécialiste de la politique de contenu des médias sociaux. « Cette politique continue de surcharger le discours légitime. »
« Remplacer « éloge » par « glorification » ne change pas grand-chose au flou inhérent à chaque terme. Cette politique continue de surcharger le discours légitime.
Les notions de « légitimation » ou de « justification » sont des questions philosophiques profondément complexes qui seraient difficiles à aborder par quiconque, sans parler d’un entrepreneur chargé de porter des centaines de jugements chaque jour.
La révision ne fait pas grand-chose pour remédier à la manière fortement racialisée dont Meta évalue et tente de contrecarrer les groupes dangereux, a ajouté Díaz. Alors que l’entreprise refuse toujours de divulguer la liste noire ou la manière dont les entrées y sont ajoutées, The Intercept en a publié une copie complète en 2021. Le document révèle que l’écrasante majorité des personnes et des groupes dangereux de « niveau 1 » – qui sont toujours soumis à la loi. Les restrictions d’expression les plus sévères dans le cadre de la nouvelle politique sont musulmanes, arabes ou sud-asiatiques. Les groupes militants blancs américains, quant à eux, sont surreprésentés dans la catégorie « Tier 3 », beaucoup plus indulgente.
Díaz a déclaré : « Les groupes de niveau 3, qui semblent être en grande partie constitués de milices de droite ou de réseaux conspirationnistes comme QAnon, ne sont pas soumis à des interdictions de glorification. »
Le propre règlement interne de Meta ne semble pas clair sur la façon dont l’application est censée fonctionner, apparemment toujours en proie aux mêmes incohérences et contradictions qui ont brouillé sa mise en œuvre pendant des années.
Par exemple, la règle autorise « l’analyse et le commentaire » sur un groupe interdit, mais un message hypothétique affirmant que les attentats du 11 septembre n’auraient pas eu lieu sans l’agression américaine à l’étranger est considéré comme une forme de glorification, vraisemblablement d’Al-Qaïda, et devrait être supprimé. , selon un exemple fourni dans les documents politiques. Même si l’on peut être farouchement en désaccord avec cette prémisse, il est difficile de prétendre qu’il ne s’agit pas d’une forme d’analyse et de commentaire.
Un autre message hypothétique dans le langage interne dit, en réponse aux gains territoriaux des talibans dans la guerre en Afghanistan : « Je pense qu’il est temps que le gouvernement américain commence à réévaluer sa stratégie en Afghanistan. » Le message, dit la règle, devrait être qualifié de non-violant, malgré ce qui semble être une qualification claire des actions du groupe interdit comme étant « efficaces ».
David Greene, directeur des libertés civiles à l’Electronic Frontier Foundation, a déclaré à The Intercept que ces exemples illustrent à quel point il sera difficile d’appliquer systématiquement la nouvelle politique. “Ils présentent une tonne de scénarios”, a déclaré Greene, “mais pour moi, il est difficile d’y voir une ligne directrice qui indique des principes généralement applicables.”
La source: theintercept.com
