Twitter est souvent accusé d’être une plateforme toxique, où la haine et le harcèlement ne sont pas combattus avec beaucoup de ferveur. Un cadre qui travaille sur la modération automatisée s’est exprimé sur le sujet lors d’une réunion en interne, rapporte Motherboard jeudi 25 avril. Il raconte les difficultés qu’il a à modérer les contenus en rapport avec le suprémacisme blanc — une idéologie raciste où l’on considère que toutes les personnes non-blanches sont inférieures. Il craint que les algorithmes ne les confondent avec les propos de politiciens républicains.
La question des faux-postifs
Pour modérer les propos sur son site, Twitter utilise comme la plupart des autres réseaux sociaux une combinaison de deux méthodes : des modérateurs humains, et des techniques automatisées.
Des algorithmes sont entraînés pour repérer des contenus problématiques grâce à une technique d’apprentissage par machine. Un employé qui travaille sur ce volet a demandé lors d’une réunion en interne le 22 mars dernier pourquoi cette méthode était largement utilisée pour certains discours de haine, comme la propagande de Daech, mais pas pour d’autres. Twitter n’utilise ainsi pas de manière proactive les algorithmes pour détecter les propos dangereux de suprémacistes blancs.
Un cadre dirigeant a répondu que le risque était que les algorithmes confondent les suprémacistes avec des politiciens américains du camp des Républicains.
Les faux-positifs sont une réalité pour les réseaux sociaux. Selon le cadre de Twitter, ces dommages collatéraux seraient acceptés sur certains sujets. On admet ainsi que quelques contenus en arabe soient régulièrement confondus avec des messages pro-Daech, car la lutte contre cette organisation est jugée trop importante. En revanche, la société ne serait pas prête, estime-t-il, à accepter des faux-positifs sur le suprémacisme blanc, surtout s’ils concernent des personnalités politiques.
Twitter critiqué pour son inaction
Cet argument est celui d’un employé et ne représente pas nécessairement l’avis de Twitter.
La prise de position est toutefois révélatrice, car elle soulève la question de la neutralité de la modération. Les réseaux sociaux sont aujourd’hui considérés aux yeux de la loi comme de simples hébergeurs. Ils ont pourtant un véritable pouvoir sur ce qui peut ou ne peut pas être publié sur leurs plateformes.
En théorie, les propos racistes et haineux sont bannis de Twitter. L’entreprise est aussi obligée de supprimer ceux qui lui sont signalés, car ils sont illégaux dans de nombreux pays. Cependant, elle a le droit de ne pas mener de recherche proactive sur ces contenus.
Twitter est régulièrement pointé du doigt pour son inaction sur les propos haineux. Alors que Facebook a décidé de bannir l’expression du suprémacisme blanc sur sa plateforme, Twitter peine à sévir contre l’extrême-droite. Lors d’une récente conférence TED, Jack Dorsey, le CEO de Twitter, a été questionné sur le non-bannissement des groupes néo-nazis. Il a simplement expliqué que l’extrémisme violent n’était pas admis sur le réseau social, sans vraiment répondre à la question de départ.
Comme l’a rapporté le Washington Post, Jack Dorsey s’est déjà montré complaisant avec certaines personnalités politiques. Il a ainsi soutenu la décision de Twitter de ne pas supprimer un tweet de Donald Trump (républicain), qui a pourtant conduit à une vague de harcèlement massive contre une femme politique démocrate.
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
