Violence, nudité, harcèlement : Facebook dévoile ses règles secrètes de modération
Pour la première fois, le réseau social publie le détail de sa politique de modération interne et va autoriser ses utilisateurs à faire appel de ses décisions.
Empêtré dans le scandale Cambridge Analytica, Facebook aimerait braquer les projecteurs sur d'autres sujets, comme sa politique de modération. Pour donner des gages sur sa volonté affirmée d'être plus transparente auprès de ses utilisateurs, la société publie et archivera en accès libre ses standards de la communauté, une charte des comportements prohibés sur le réseau. De plus, lorsqu'un utilisateur se sentira lésé par une modération, il pourra faire appel de cette décision: une première.
Facebook a longtemps été très discret sur ses efforts de modération. De nombreuses polémiques l'ont néanmoins forcé à révéler un peu plus ses actions en la matière. On reproche régulièrement au réseau social d'être trop laxiste - par exemple sur les contenus de propagande terroriste ou les propos racistes et misogynes - ou au contraire injuste avec certains contenus, comme les œuvres d'Art montrant des personnes nues. Avec 7500 personnes, les équipes de surveillance et de suppression des contenus interdits ont vu leurs effectifs augmenter de 40% en un an. Grâce à une combinaison d'intelligences artificielles et aux signalements des membres, le réseau social filtre, supprime des posts et bannis des utilisateurs. Dans sa ligne de mire, les discours de haine, la violence, le terrorisme et la nudité. Ces informations avaient été en partie dévoilées via des documents internes révélés dans la presse en mai 2017.
Un inventaire détaillé sur 22 chapitres
Si une page sur les règles de modération du réseau social existait depuis 2011, c'est la première fois qu'elle renferme l'ensemble des consignes données aux modérateurs avec des illustrations concrètes. Le document comprend cinq grandes parties: la violence, la sécurité, les contenus répréhensibles, l'intégrité et l'authenticité ainsi que la propriété intellectuelle.
Facebook rappelle que la nudité est interdite en dehors de certains cas très précis: l'humour, une volonté pédagogique ou scientifique, un acte de protestation, des photos d'allaitement ou encore une chirurgie (mastectomie, changement de sexe ...). La firme répond ainsi à de nombreuses tensions sur sa politique de censure algorithmique des œuvres d'art représentant des corps nus. On note toutefois quelques surprises dans le document du réseau social. Il est par exemple interdit de publier la photo d'une petite fille avec le torse découvert dès lors que ce n'est plus un nourrisson. Pour un petit garçon, cela est autorisé.
Concernant la violence, le réseau social rappelle l'interdiction du harcèlement, de l'incitation à la violence et de la promotion de crime. Néanmoins, certaines exceptions apparaissent: les images de violence sur les animaux sont autorisées dans le cadre de la chasse, de la pêche et des sacrifices religieux. Au demeurant, dans son chapitre «Marchandises réglementées», le document rappelle que la promotion de la vente et de la consommation de cannabis sont interdites, même dans les États où la législation l'autorise. «Nous appliquons nos règlements de manière uniforme et équitable à une communauté qui dépasse les régions, les cultures et les langues», précise la plateforme.
Le réseau créé par Mark Zuckerberg définit l'incitation à la haine comme «une attaque directe sur des personnes fondées sur ce que nous appelons des caractéristiques protégées: les origines ethniques et nationales, la religion, l'orientation sexuelle, le sexe, le genre, l'identité de genre, le handicap et ou la maladie.» Facebook détermine trois niveaux de gravité de ces attaques. Le niveau 1 rassemble les publications les plus agressives qui appellent à la violence, au meurtre ou qui déshumanisent un individu ou un groupe d'individus. Le deuxième niveau concerne les expressions de mépris et de dégoût comme «les XXX sont ce qu'il y a de pire». Enfin, le troisième niveau s'intéresse aux appels à l'exclusion et à la ségrégation.
La possibilité de faire appel d'une décision de modération est une vraie nouveauté. Lorsqu'un modérateur supprimera un contenu jugé en infraction avec les standards, l'utilisateur concerné recevra une notification. D'un clic, il pourra contester et faire appel de l'arbitrage. Facebook s'engage au traitement de ces retours par des modérateurs humains et indique qu'ils donneront une réponse en moins de 24 heures. En cas d'erreur de la part du service de modération, la publication réapparaîtra immédiatement. Ce principe ne s'applique pour le moment qu'aux contenus liés à la nudité, à l'activité sexuelle, à la violence visuelle et aux discours de haine.
