Ces 26 et 27 mars, les comptes Twitter de Marika Bret, figure de Charlie Hebdo, et de Floriane Gouget, vice-présidente d'une association pro laïcité, ont été brièvement suspendus pour avoir posté une Une du journal satirique. Une illustration supplémentaire de l'opacité des règles de modération du réseau social.
Et une de plus. Le compte Twitter de Marika Bret, figure de Charlie Hebdo, a encore été brièvement suspendu samedi 27 mars. En cause : cette Une de l'hebdomadaire que la DRH du journal a choisi de mettre à l'honneur, présentant un dessin du président turc Recep Tayip Erodgan soulevant la jupe d'une femme voilée, après qu'un procureur turc a réclamé vendredi jusqu'à quatre ans d'emprisonnement contre quatre collaborateurs de l'hebdomadaire satirique. Ces derniers sont accusés d'avoir « insulté » le président turc avec la publication de ces caricatures.
La veille, Floriane Gouget, vice-présidente de l'association laïque Dernier Espoir avait également vu son compte suspendu, là encore pour avoir choisi d'afficher sur sa photo de profil une autre Une du journal satirique : celle du numéro spécial du procès des attentats de janvier 2015, Tout ça pour ça. Les deux comptes ont été rétablis rapidement après, et Floriane Gouget et Marika Bret peuvent conserver les caricatures sur leurs photos de profil. Mais leur brève disparition interroge, dernier exemple des règles de modération opaques du réseau social.
"C'est la troisième fois que Twitter me bloque", s'agace Marika Bret auprès de Marianne. La première fois remonte au mois de septembre 2018. Elle vient alors de placer en photo de profil une caricature de Charb intitulée Les extrêmes se touchent et représentant un prêtre et un imam se palpant mutuellement le pénis. Accusée "d'enfreindre les règles de Twitter", elle doit retirer l'image pour récupérer l'accès à son compte. La deuxième fois, "en plein pendant le procès des attentats de 2015" elle le perd pour avoir publié une autre caricature, représentant cette fois un rabbin, un prêtre et un imam dansant et chantant "Nous sommes trois frères jumeaux nés sous le signe des escrocs". Ce dessin figure aujourd'hui néanmoins en photo "bannière" de son compte. "Ce week-end, on m'a signalé que le contenu que j'avais partagé était de 'nature pornographique'", note Marika Bret. Contacté par Marianne pour comprendre la raison cette suspension, Twitter France n'a pas souhaité répondre à nos questions, se contentant d'un lapidaire : "Les comptes ont été suspendus mais ont été rétablis." "Twitter n’aura malheureusement pas d’autres éléments à partager", nous signale-t-on.
Des comptes bloqués en série
Marika Bret et Floriane Gouget sont loin d'être les seules à avoir fait les frais d'une suspension à la justification brumeuse. La semaine précédente, entre le dimanche 14 et le lundi 15 mars, Mila, adolescente iséroise menacée de mort depuis qu'elle a publié une vidéo critiquant l'islam, a elle aussi été suspendue. Après avoir reçu des injures à la suite de la publication d'un dessin qu'elle décrit comme "enfantin", Mila aurait en effet insulté un internaute virulent. Peu après, sans qu'elle puisse lier avec certitude cette interaction à son compte bloqué, le Twitter de la jeune femme est fermé pour "violation des règles de Twitter. Spécialement pour violation des règles contre le harcèlement". Elle retrouve accès à son compte lundi matin, et le réseau social reconnaît auprès de l'AFP "une erreur".
Il ne s'agit pas de la première méprise reconnue par la plateforme. En janvier 2021, les comptes d'une flopée de militantes féministes ont été bloqués pour avoir posé la même question : "Comment faire pour que les hommes cessent de violer ?". Quelques heures après, Twitter avait mis en cause son algorithme. "Nous avons accru notre utilisation du machine-learning et de l'automatisation afin de prendre plus de mesures sur les contenus potentiellement abusifs et manipulateurs, avait déclaré Twitter France à 20 Minutes. Nous voulons être clairs : bien que nous nous efforcions d’assurer la cohérence de nos systèmes, il peut arriver que le contexte apporté habituellement par nos équipes manque, nous amenant à commettre des erreurs."
Modération automatique
Depuis avril 2017, le réseau social a installé une modération automatique sur une partie de ses contenus. Elle permet de supprimer rapidement des tweets, afin de mieux modérer des messages publiés en cascade par de faux comptes. Mais beaucoup de tweets passent à la moulinette de la modération pour d'autres raisons. Pour aider le logiciel dans cette tâche, la plateforme met à disposition des internautes un formulaire de signalement des tweets pouvant poser problème. Ces messages peuvent entraîner différentes sanctions de la suppression de message à la désactivation de compte.
Plusieurs usages sont formellement interdits : parmi ceux-ci, les messages promouvant le terrorisme ou "l'extrême violence", le harcèlement ciblé, ou encore certains médias dits "sensibles", comme des "contenus violents et pour adultes", à l'exemple "de gros plans d'organes génitaux, de fesses ou de seins." Dans ce contexte, porté à l'attention de l'algorithme, le dessin de fesses présent sur la Une de Charlie Hebdo a pu être compris comme un contenu pornographique, sans distinction de nuance ni de contexte. "Mon intuition me guide vers des dénonciations massives d'internautes, abonde Marika Bret. Tout est allé très vite : il a fallu à peine deux heures pour que mon compte soit bloqué après que je l'ai posté".
Mystère autour des signalements
Ces signalements abusifs en masse d'internautes ont ainsi été évoqués dans le cas de Mila, où, comme le relèveLe Point, l'un des participants se serait vanté d'avoir "fait sauter" le compte de la jeune femme, recevant même un mail de félicitations de la plateforme : "Bonjour, merci pour votre signalement. Nous avons suspendu le compte [de Mila], car il enfreignait les règles de Twitter. Nous apprécions votre aide ; les signalements comme le vôtre sont essentiels pour améliorer Twitter. Merci."
Impossible de savoir combien de signalements peuvent entraîner une sanction : Twitter a jusqu'ici refusé de communiquer sur la question. "Il y a peut-être des centaines de critères et la décision est sans doute prise d'un algorithme en fonction de paramètres qui évoluent de jour en jour, ce qui fait qu'il est difficile de fixer un seuil précis", estime Fabrice Epelboin, entrepreneur et spécialiste des réseaux sociaux. "C'est assez simple : cela veut dire que les internautes qui signalent les contenus sont les directeurs de la publication - les responsables NDLR - de Twitter, pas sa direction", grince Marika Bret.
Deux poids, deux mesures ?
L'algorithme n'est cependant pas le seul maître en matière de modération. En parallèle, des employés peuvent également examiner des situations où un point de vue humain s'avère nécessaire. "Mais leur marge de manœuvre est réduite, prévient Fabrice Epelboin. Dans la majorité des cas, ils doivent suivre une réglementation précise qui conditionne leur conduite. On peut garder la photo d'un sein s'il nourrit un bébé, on la sanctionne si un téton est apparent dans un autre contexte." Parfois, la modération est aussi prise en main par la direction de la plateforme, comme cela a été le cas lors de la suspension du compte de Donald Trump.
"L'inverse a dû se passer dans le cas de la restauration du compte de Marika Bret note Fabrice Epelboin. Ce retour a probablement été provoqué par une intervention manuelle, car Twitter France a conscience de la sensibilité du sujet." La DRH de Charlie Hebdo a en effet pu récupérer son compte "très vite", après avoir signalé à son entourage qu'elle venait d'être bloquée. "C'est une petite satisfaction, mais j'ai du mal à comprendre la disproportion entre d'un côté bloquer un compte pour des dessins et d'un autre laisser prospérer des messages à caractère antisémite, raciste, homophobe, et des appels au viol", regrette-t-elle.
En dehors des signalements abusifs, la modération de Twitter reste très imparfaite. Ce 26 mai, la plateforme est d'ailleurs assignée en justice par plusieurs associations antiracistes pour son inaction face aux propos haineux. L’Union des étudiants juifs de France (UEJF), SOS Racisme, le Mrap, la Licra, J’accuse ou encore SOS Homophobie estiment que Twitter n'agit pas suffisamment pour améliorer sa modération. Les organisations ont ainsi expliqué avoir signalé à la plateforme plus de 1.100 tweets haineux - principalement des insultes homophobes, racistes ou antisémites. Seuls 12% d'entre eux avaient été enlevés dans "une période raisonnable allant de 3 à 5 jours".
A LIRE AUSSI : Débat entre Cédric O et Bruno Retailleau : face aux plateformes, le politique condamné à l’impuissance ?
