De nouvelles règles autorisent les insultes sur Facebook et les méta-plateformes

La méta est maintenant accordant à ses utilisateurs une nouvelle liberté de publier un large éventail de remarques désobligeantes sur les races, les nationalités, les groupes ethniques, les orientations sexuelles et les identités de genre, révèlent les supports de formation obtenus par The Intercept.

Voici des exemples de discours nouvellement autorisés sur Facebook et Instagram mis en évidence dans le matériel de formation :

« Les immigrés sont des conneries sales et crasseuses. »

“Les gays sont des monstres.”

“Regardez cette transsexuelle (sous la photo d'une jeune fille de 17 ans).”

Ces changements font partie d'un changement de politique plus large qui inclut la suspension du programme de vérification des faits de l'entreprise. L’objectif, a déclaré Meta mardi, est de « permettre davantage d’expression en levant les restrictions ».

Le nouveau chef de la politique mondiale de Meta, Joel Kaplan, a décrit cet effort dans un communiqué comme un moyen de réparer « des systèmes complexes de gestion du contenu sur nos plateformes, qui sont de plus en plus compliqués à appliquer pour nous ».

Alors que Kaplan et le PDG de Meta, Mark Zuckerberg, ont présenté les changements comme un moyen de permettre aux utilisateurs de s'engager plus librement dans la dissidence idéologique et le débat politique, les documents politiques inédits examinés par The Intercept illustrent à quel point une rhétorique purement insultante et déshumanisante est désormais acceptée. .

Le document fournit à ceux qui travaillent sur le contenu des utilisateurs Meta un aperçu des changements apportés à la politique en matière de discours de haine, en leur expliquant comment appliquer les nouvelles règles. Les changements les plus importants sont accompagnés d'une sélection d'« exemples pertinents » : des publications hypothétiques marquées « Autoriser » ou « Supprimer ».

Interrogé sur les nouveaux changements de politique, le porte-parole de Meta, Corey Chambliss, a fait référence à The Intercept aux remarques du blog de Kaplan annonçant le changement : « Nous supprimons un certain nombre de restrictions sur des sujets comme l'immigration, l'identité de genre et le genre qui font l'objet de restrictions. discours et débats politiques fréquents. Il n'est pas normal que des choses puissent être dites à la télévision ou au Congrès, mais pas sur nos plateformes.»

Kate Klonick, une experte en politique de modération de contenu qui a parlé à The Intercept, conteste l'affirmation de Meta selon laquelle les nouvelles règles sont moins politisées, étant donné la latitude qu'elles offrent pour attaquer les croque-mitaines conservateurs.

« Tracer des limites autour de la modération du contenu a toujours été une entreprise politique », a déclaré Klonick, professeur agrégé de droit à l'Université St. John's et spécialiste des politiques de modération du contenu. « Prétendre que ces nouvelles règles sont plus « neutres » que les anciennes est une farce et un mensonge. »

Elle considère les changements annoncés par Kaplan – ancien chef de cabinet adjoint de la Maison Blanche sous George W. Bush et liaison de longue date de Zuckerberg avec la droite américaine – comme « une capture politique ouverte de Facebook, en particulier parce que les changements profitent à un parti particulier. »

Communauté publique de Meta La page des normes indique que même avec les nouvelles règles assouplies, l'entreprise protège toujours « les réfugiés, les migrants, les immigrants et les demandeurs d'asile contre les attaques les plus graves » et interdit les « attaques directes » contre des personnes sur la base de « la race, l'origine ethnique, l'origine nationale ». , handicap, appartenance religieuse, caste, orientation sexuelle, sexe, identité de genre et maladie grave. Mais les exemples instructifs fournis dans les documents internes montrent une grande variété de commentaires dénigrant les gens sur la base de ces caractéristiques marquées « Autoriser ».

Parfois, les exemples fournis semblent alambiqués ou contradictoires. Une page indique que les « généralisations » sur n’importe quel groupe restent interdites si elles font une comparaison avec des animaux ou des agents pathogènes – comme « Tous les réfugiés syriens sont des rongeurs ». Mais les comparaisons avec « la saleté ou les excréments » sont désormais rétrogradées du discours de haine à une forme moins grave d’« insulte », qui ne viole les règles de l’entreprise que si elle est dirigée contre un groupe protégé. Selon les exemples fournis par Meta, ce changement permet désormais aux utilisateurs de déshumaniser largement les immigrés avec des déclarations telles que « Les immigrés sont des conneries sales et crasseuses », malgré le langage ailleurs dans le document qui prétend que « les comparaisons avec la sous-humanité » restent interdites.

La politique de l'entreprise en matière de haine basée sur la nausée suit une ligne particulièrement fine : « Les migrants ne valent pas mieux que du vomi » est autorisé, selon les documents, tandis que « Les musulmans me donnent envie de vomir » devrait être supprimé car il prétend qu'il s'agit d'un groupe « provoque des maladies. »

Même si les comparaisons générales avec les animaux sont toujours contraires aux règles, de nombreux autres types de stéréotypes haineux sont désormais autorisés. « TOUTES les déclarations comportementales (avec et sans réserve) » ne sont désormais plus contraires aux règles de Meta, lit-on dans le document, permettant des généralisations radicales reliant des races ou des groupes ethniques entiers à la criminalité ou au terrorisme. Le document donne comme exemples de généralisations raciales acceptables : « On ne peut pas faire confiance à ces foutus immigrants, ce sont tous des criminels », « Je parie que Jorge est celui qui a volé mon sac à dos après l'entraînement d'athlétisme aujourd'hui. Les immigrants sont tous des voleurs » et « les Japonais sont tous des Yakuza ». Il note cependant que la déclaration « Les Noirs sont tous des trafiquants de drogue » reste interdite par les nouvelles règles.

D’autres sections du matériel fournissent des exemples d’« insultes à propos de l’immoralité sexuelle » interdites, telles que « les femmes juives sont des salopes ». Mais le document fournit également de nombreux exemples d’insultes nouvellement autorisées visant des identités de genre ou des orientations sexuelles spécifiques, notamment « Les gays sont des pécheurs » et « Les personnes trans sont immorales ». Un message indiquant « Les lesbiennes sont tellement stupides » resterait interdit en tant qu'« insulte mentale », bien que « Les personnes trans sont des malades mentaux » soit marqué comme autorisé.

Les généralisations sur la supériorité et l’infériorité sont également alambiquées, même si les attaques contre les immigrés ont tendance à passer inaperçues. Exemples de contenus interdits : « Les hommes chrétiens sont totalement inutiles », « Est-ce moi ? Ou est-ce que toutes les femmes autistes sont laides ? et “Les Hispaniques sont aussi sales que le sol sur lequel nous marchons.” Pendant ce temps, « les immigrants mexicains sont des déchets ! » est désormais jugé acceptable.

Dans l’ensemble, les restrictions sur les revendications de suprématie ethnique ou religieuse ont été considérablement assouplies. Le document explique que Meta autorise désormais « les déclarations de supériorité tant que les déclarations ne font pas référence à l'infériorité d'un autre ». [protected characteristic] groupe (a) sur la base de ses capacités intellectuelles inhérentes et (b) sans soutien. Les déclarations autorisées en vertu de cette règle incluent « Les Latinos sont les meilleurs ! » et « Les Noirs sont supérieurs à tous les autres. » Les affirmations comparatives telles que « les Noirs sont plus violents que les Blancs », « les Mexicains sont plus paresseux que les Asiatiques » et « les Juifs sont carrément plus cupides que les chrétiens » sont également désormais acceptables. L’exemple « Les Blancs sont plus intelligents que les Noirs » est interdit, uniquement parce qu’il concerne les capacités intellectuelles.

Mais les déclarations générales sur l’intellect semblent être autorisées si elles sont accompagnées de prétendues preuves. Par exemple : « Je viens de lire une étude statistique selon laquelle les Juifs sont plus intelligents que les chrétiens. D'après ce que je peux dire, c'est vrai ! Il n’est pas clair s’il faudrait établir un lien avec une telle étude ou simplement en revendiquer l’existence.

Les règles concernant les déclarations explicites de haine ont également été considérablement assouplies. «Déclarations de mépris, d'aversion et de rejet, telles que 'Je déteste', 'Je m'en fiche' et 'Je n'aime pas'. sont désormais considérés comme non-violants et sont autorisés », explique le document. Sont inclus comme exemples acceptables les messages déclarant « Je ne me soucie pas des Blancs » et « Je suis un fier raciste ».

Les nouvelles règles interdisent également de « cibler les injures » sur un groupe protégé, ce qui « inclut l’utilisation du mot « putain » et ses variantes ». Cité à titre d’exemple, un message disant « Ugh, ces putains de Juifs recommencent » viole les règles simplement parce qu’il contient une obscénité (les nouvelles règles autorisent l’utilisation de « salope » ou d’enfoiré »).

Autre changement de politique : « Faire référence à la cible comme aux organes génitaux ou à l’anus est désormais considéré comme non-violant et est autorisé. » Comme exemple de ce qui est désormais autorisé, Facebook propose : « Les Italiens sont des connards ».

Même si de nombreux exemples et politiques sous-jacentes semblent confus, le document montre clairement qu’il est permis de faire des remarques désobligeantes à l’égard des personnes transgenres, y compris des enfants. Notant que « « Tranny » n'est plus une insulte désignée et est désormais non-violante », les documents fournissent trois exemples de discours qui ne devraient plus être supprimés : « Les transsexuelles sont un problème », « Regardez cette transsexuelle (sous la photo de Fille de 17 ans) » et « Faites sortir ces transsexuelles de mon école (sous la photo des lycéens) ».

Après la publication de cet article, le porte-parole de Meta, Andy Stone, a informé The Intercept que la société avait commis une erreur dans l'un des exemples contenus dans son matériel d'information. Stone a déclaré que Meta avait l'intention d'illustrer un contenu qui ne serait pas autorisé lorsqu'il inclurait l'exemple “Regardez cette transsexuelle (sous la photo d'une fille de 17 ans).”

D'après Jillian York, directeur de la liberté d'expression internationale à l'Electronic Frontier Foundation, les protections contre les discours de haine de Meta ont toujours été bien intentionnées, même si elles sont profondément imparfaites dans la pratique. “Bien que cela ait souvent abouti à une modération excessive que moi-même et beaucoup d'autres avons critiquée, ces exemples démontrent que les changements politiques de Meta sont de nature politique et ne visent pas simplement à permettre plus de liberté d'expression”, a déclaré York.

Meta a fait l'objet d'un examen international pour son approche du discours de haine, notamment après le rôle que les discours de haine et autres propos déshumanisants sur Facebook ont ​​joué dans la fomentation du génocide au Myanmar. Suite aux critiques concernant sa mauvaise gestion du Myanmar, où les Nations Unies ont estimé que Facebook avait joué un « rôle déterminant » dans le massacre de plus de 650 000 musulmans rohingyas, l’entreprise a passé des années à vanter son investissement pour empêcher la propagation d’un discours similaire à l’avenir.

“La raison pour laquelle beaucoup de ces lignes ont été tracées là où elles étaient est que le discours de haine ne reste souvent pas un discours, il se transforme en un comportement réel”, a déclaré Klonick, spécialiste de la modération de contenu.

C'est une prémisse que Meta prétendait partager jusqu'à cette semaine. « Nous avons la responsabilité de lutter contre les abus sur Facebook. Cela est particulièrement vrai dans des pays comme le Myanmar, où de nombreuses personnes utilisent Internet pour la première fois et où les médias sociaux peuvent être utilisés pour propager la haine et alimenter les tensions sur le terrain », a écrit Sara Su, chef de produit de l’entreprise, dans un article de blog de 2018. « Même si nous adaptons notre approche face aux fausses nouvelles compte tenu de l'évolution des circonstances, nos règles en matière de discours de haine sont restées les mêmes : ce n'est pas autorisé.

Mise à jour : 9 janvier 2025, 21 h 11 HE
Cet article a été mis à jour pour inclure le commentaire du porte-parole de Meta, Andy Stone, soulignant qu'une erreur dans les documents internes de l'entreprise a classé à tort un message sur les jeunes trans comme autorisé.