Le dispositif n’est pas sans rappeler le système de « crédit social » mis en place par la Chine, même s’il n’est pas assorti des conséquences civiques comme c’est le cas dans l’empire communiste de Xi Jinping : il s’agit du système de notation et d’évaluation discrètement mis en place par Facebook qui attribue à chaque compte d’utilisateur un score de fiabilité. Tenu secret, le chiffre situé entre zéro et un prend en compte de multiples facteurs visant à établir une évaluation de l’attitude de l’internaute à l’égard des « fake news ». Celui qui est perçu comme diffusant volontiers de fausses informations – à l’aune des critères propres à Facebook, qui restent eux aussi secrets – risque de voir son flux disparaître dans les méandres des messages mal répercutés. Les bons élèves, au contraire, auront plus de facilité à toucher un public plus large.
 
Ce système d’évaluation tenu secret a été mis au jour par le Washington Post : selon le quotidien américain, il a été mis en place et développé au cours de ces 12 derniers mois afin de permettre aux gestionnaires du réseau social d’identifier les « acteurs malveillants ».
 

Les utilisateurs de Facebook peuvent démolir des réputations de façon malveillante

 
L’objectif affiché est évidemment des plus vertueux : il s’agit de traquer les militants qui diffusent les « fake news » à des fins inavouables. Mais la réalité, on la connaît, Facebook joue son rôle – avec un poids formidable – pour faciliter la diffusion de la pensée unique sur tous les plans.
 
On notera que Facebook cherche tout de même à pallier les graves inconvénients liés au signalement de fausses informations par des internautes qui cherchent moins à servir la vérité qu’à faire avancer leurs propres préférences. La directrice de Facebook chargée de la lutte contre les « fake news », Tessa Lyons, interrogée par le Washington Post, explique ainsi que les scores de fiabilité ont été développés pour éviter de s’appuyer sur les signalements faits par des internautes dès l’instant où ils sont en désaccord avec un message donné.
 
« Il n’est pas inhabituel que les personnes nous affirment qu’une chose est fausse simplement parce qu’elles sont en désaccord avec les prémisses d’une information ou parce qu’elles essaient délibérément de viser une source particulière », a-t-elle affirmé.
 

Un score secret de réputation juge la fiabilité des utilisateurs de Facebook

 
Au cours de son entretien, Mme Lyons a précisé que la note de réputation n’est qu’un élément parmi le millier de mesures comportementales nouvelles prises en compte par les modérateurs de Facebook lorsqu’ils examinent des contenus signalés. L’analyse de nos messages sur Facebook va décidément bien au-delà de tout ce que l’on pourrait imaginer.
 
Les nouvelles évaluations comportent une notation des utilisateurs qui s’adonnent le plus fréquemment au signalement de contenus. Elles permettent également de déterminer quelles sont les sources jugées les plus fiables par les internautes eux-mêmes. Claire Wardle de First Draft, le laboratoire de recherche à Harvard, a déclaré à propos du système d’évaluation : « Ne pas savoir comment Facebook nous juge est ce qui nous met mal à l’aise. Mais l’ironie de l’affaire, c’est qu’ils ne peuvent pas nous dire comment ils nous jugent, car s’ils le faisaient, les algorithmes qu’ils ont développés seraient contournés. »
 

L’algorithme secret de Facebook pour attribuer des scores de fiabilité à ses utilisateurs

 
Tessa Lyons a toutefois donné quelques indications sur la manière de procéder. Ainsi, lorsqu’une personne signale une information comme étant fausse et que par la suite, un auditeur officiel de Facebook confirme ce jugement, les signalements subséquents de l’utilisateur pourront être jugés comme ayant davantage de poids que ceux d’autres internautes signalant fréquemment des articles, y compris ceux qui sont par la suite jugé exacts par les modérateurs.
 
Reste la question principale : celle de l’autorité morale et civique exercée par une société commerciale en position dominante comme l’est Facebook, alors qu’elle se prétend simple plate-forme de circulation des idées. Au fond, c’est comme si une société de téléphone écoutait les conversations, les évaluait, et en tirait argument pour moins bien acheminer certains appels ; ou encore comme si les journaux à scandale ou ceux défendant des idées non conformistes voyaient leur distribution entravée par un comité obscur, irresponsable, ayant ses propres préjugés et exerçant une censure dont la nature ne serait pas connue.
 

Anne Dolhein