POLITIQUE - Comment lutter contre les contenus haineux sur Internet? Emmanuel Macron a reçu ce vendredi 10 mai le patron de Facebook Mark Zuckerberg afin d’élaborer avec le géant américain une stratégie commune contre la cyberhaine. Cette nouvelle rencontre, à l’issue de laquelle Mark Zuckerberg s’est dit “optimiste”, intervenait alors que le chef de l’État appelle à mettre en place de nouvelles législations au niveau français et européen contre le racisme et l’antisémitisme, qui prospèrent en toute impunité sur les réseaux, mais également contre le cyberharcèlement qui fait des ravages chez les plus jeunes.
Alors que La République En Marche s’apprête à défendre une proposition de loi censée responsabiliser les plateformes numériques sur le retrait et la sanction des comportements violents, plusieurs députés de la majorité ont récemment fait la promotion d’une application 100% française qui propose d’invisibiliser, voire de supprimer les commentaires haineux et illégaux qu’ils subissent en ligne.
Baptisée “Bodyguard”, cette application gratuite, plutôt facile à prendre en main et disponible sur Twitter, YouTube et Twitch, a déjà séduit la porte-parole du groupe LREM Aurore Bergé, ainsi que ses collègues parisiens Mounir Mahjoubi, Sylvain Maillard et Laetitia Avia.
Et d’après leurs premiers retours, ils s’en montrent plutôt satisfaits. En seulement 48 heures d’utilisation, Bodyguard avait déjà sanctionné 51 personnes pour des tweets injurieux et/ou menaçants adressés à Aurore Bergé. Depuis, ce sont 142 comptes haineux qui ont été bloqués par l’application pour le compte de l’élue des Yvelines, qui déplore que Twitter renâcle à sanctionner les contenus qu’elle leur transfère.
Au-delà de son usage personnel, Laetitia Avia s’est immédiatement intéressée à Bodyguard puisque c’est elle qui défendra devant l’Assemblée nationale à la fin du mois le texte contre les contenus haineux en ligne. “Le premier à m’en avoir parlé, c’est Mounir Mahjoubi, lorsqu’il était au secrétariat d’État au numérique, qui lui-même avait découvert l’application via Bilal Hassani”, nous raconte-t-elle.
“Je l’ai testée, il y a forcément des imperfections, des choses que je n’aurais pas forcément écartées. J’ai mon propre seuil de tolérance. Cela ne me dérange pas qu’on me traite de débile par exemple. Mais je ne tolère pas qu’on me traite de nègre”, précise l’élue de Paris.
Pour cela, Bodyguard est “un outil intéressant parce qu’il laisse la main aux utilisateurs. C’est une modération préventive qui permet à chacun de graduer ce qu’il est prêt à tolérer sur les réseaux sociaux”, explique encore Laetitia Avia pour qui ce type d’outil devrait être proposé systématiquement aux utilisateurs.
“Les jeunes Youtubeurs s’exposent à une violence incroyable”
Si l’application a tapé dans l’œil des promoteurs de la start-up nation, c’est aussi parce qu’elle a été développée par un jeune autodidacte niçois. À seulement 23 ans, Charles Cohen n’imaginait pas que son garde du corps numérique serait utile à des députés.
“Le but de Bodyguard à l’origine, c’était de protéger les enfants qui s’essayaient aux réseaux sociaux pour leur laisser donner libre cours à leur créativité”, raconte au HuffPost le jeune entrepreneur, qui gère à lui tout seul 27.000 utilisateurs, parmi lesquels des politiques de droite, du centre et de gauche. Mais aussi des personnalités publiques, des militants associatifs ou de simples internautes, tous refroidis par la virulence des échanges sur les réseaux sociaux.
À l’image de Bilal Hassani, le candidat français à l’Eurovision qui a subi 50.000 commentaires haineux en quatre mois sur sa chaîne YouTube. “Pratiquement que des menaces de mort”, précise Charles Cohen.
“Les jeunes Youtubeurs qui se lancent s’exposent à une violence incroyable dans les commentaires. Quand vous avez 8, 10 ou 14 ans, la moindre remarque sur votre physique peut vous détruire”, détaille-t-il en expliquant le fonctionnement de l’application, censée “protéger la liberté d’expression de ceux qui subissent la haine”.
Contrairement à d’autres filtres automatisés, le but n’est pas de censurer toute parole négative ni même l’emploi de mots injurieux. L’algorithme, nourri à la main par deux millions de commentaires piochés sur YouTube, détecte avant tout les attaques personnelles visant le propriétaire du compte et les phénomènes de cyberharcèlement.
En cas d’attaque, le logiciel identifie les contenus litigieux. S’il franchit la ligne rouge, le commentaire est masqué puis bloqué sur YouTube ou Twitch. Au bout de trois commentaires haineux, le profil est bloqué.
Sur Twitter, puisqu’il n’est pas possible de supprimer le tweet d’un tiers, même lorsqu’il enfreint manifestement la loi, l’application masque puis bloque le profil dès le premier commentaire haineux. “À tout moment, l’utilisateur peut débloquer ou restaurer un commentaire et il peut accéder à tous les contenus haineux supprimés.”
“Macron est un connard” pas supprimé sauf si...
“L’application ne bloque pas les gens qui ne sont pas d’accord, elle bloque les injures ad hominem, détaille Charles Cohen. Elle ne supprimera pas un commentaire du style ‘Macron est un connard’, sauf si ce tweet est directement adressé à Emmanuel Macron. Bodyguard laissera toujours la discussion, même contradictoire et négative, se dérouler comme elle pourrait se dérouler en pleine rue”.
Comme nous l’ont confirmé ses utilisateurs du Palais Bourbon, l’application ne filtre pas tout. Son concepteur reconnaît qu’elle filtre jusqu’à 90% de contenus indésirables. “Dans les 10% restants, il y a notamment les insultes vieillottes qui émanent des gens de plus de 45 ans.” “Bodyguard doit-il supprimer “T’es né avant la honte” ou encore “ramolli du cerveau”? La question n’est pas tranchée, reconnaiît Charles Cohen, qui espère lever un million d’euros pour développer son entreprise.
De la protection à la sanction
En attendant, les députés de la majorité voient dans cette application la preuve concrète qu’il est possible de mettre en place des outils de protection contre la haine qui s’exprime librement sur les réseaux.
“Bodyguard est un outil préventif. Ce que je dis, c’est que si on avait des Charles Cohen sur Twitter ou Facebook, on arriverait à juguler le problème de la haine sur les plateformes”, plaide Laetitia Avia, dont le texte de loi vise à imposer aux réseaux sociaux de retirer ou de bloquer tout contenu qui enfreint la loi, dans un délai de 24 heures, sous peine d’amende.
Le texte devrait se concentrer sur les propos manifestement illicites ou discriminatoires (racisme, homophobie…) sans cibler la zone grise des propos dits “offensants”. L’objectif premier, c’est de ”réaffirmer que l’État de droit existe, même en ligne. On dit souvent qu’il y a un sentiment d’impunité sur Internet. C’est faux. Il y a une impunité sur Internet. Et c’est pourquoi responsabiliser les plateformes est essentiel”, plaide-t-elle.
À voir également sur Le HuffPost: