Les mystérieuses règles de Facebook pour censurer les posts racistes

facebook
© Jaap Arriens / NurPhoto

Pourquoi certains propos racistes sont censurés par le réseau social quand d'autres peuvent rester en ligne? Le site Propublica a enquêté sur les règles de censure utilisées par Facebook, qui protègent "les hommes blancs" mais pas "les enfants noirs".

Maïté Koda
Publié le , mis à jour le

Les propos, photos et vidéos racistes pullulent sur les réseaux sociaux qui tentent, avec plus ou moins de bonne volonté de les supprimer. Mais comment procèdent-ils, et notamment le plus important d'entre eux, à savoir Facebook?  

C'est la question que s'est posée le site d'investigation Propublica.org, une plateforme de journalisme indépendant basée à New York. Les enquêteurs ont étudié les règles de Facebook pour censurer les contenus, après avoir constaté des différences de traitement.
 

Un appel à "tuer les musulmans radicalisés" ne tombe pas sous le coup de la censure

Ainsi, ont constaté les enquêteurs; un message d'un membre du congrès américain appelant à poursuivre, identifier et tuer tous les musulmans radicalisés n'a pas été censuré par le réseau social. En revanche, lorsqu'une poétesse afro américaine et membre du "Black lives matters" écrit  en mai 2017 "Tous les Blancs sont racistes", son message a été supprimé et la militante a vu son compte suspendu pendant sept jours.
 

Les hommes blancs plus vulnérables que les enfants noirs?

Une différence de traitement qui s'illustre également dans un document auquel les journalistes ont eu accès, et qui est utilisé pendant les tests de formations de l'entreprise. Trois catégories sont présentées: les femmes au volant, les enfants noirs et les hommes blancs. La question qui suit est la suivante: parmi ces trois groupes, lequel doit être protégé des discours racistes?
Et la réponse est… les hommes blancs. Et uniquement eux.
 


Une censure uniquement pour les catégories "protégées"

Car le réseau social de Marck Zuckerberg a établi des catégories "protégées" et d'autres, qui ne le sont pas. Sont protégées, les personnes attaquées sur leur genre, leur race, leur religion l'ethnie, l'orientation sexuelle…
Ne sont pas considérés comme des critères de protection en revanche, les critères d'âge, de profession, d'origine géographique… C'est pourquoi  les conducteurs de voitures, les radicalisés, ou les enfants font partie des catégories "non protégées".
 
Dernier point, pour que les attaques soient censurées par Facebook, il faut que les victimes fassent partie de catégories protégées uniquement. Ce qui n'est pas le cas de la femme au volant ou des enfants noirs,  le fait de conduire une voiture ou d'avoir un jeune âge n'étant pas pris en compte.

Un algorithme critiqué pour son aveuglement

Une logique critiquée Outre-Atlantique, les détracteurs de Facebook reprochant à l'algorithme son aveuglement. "Cette approche va protéger ceux qui le sont déjà et négliger ceux qui ont vraiment besoin de protection", a déploré Danielle Citron, professeur de droit de l'Université de Maryland, et interrogée par Propublica.