Racisme et sexisme sur Twitch, le fléau des « raids » haineux

Fin 2022, la très populaire plateforme vidéoludique de diffusion en direct Twitch est confrontée à un niveau d’attaques ciblées sans précédent, les « raid haineux ». Le concept du raid est courant sur la plateforme et représente un signe de soutien. Il sert à décrire le fait pour un streamer, à la fin de sa session, d’envoyer l’ensemble de son audience sur le stream d’un autre vidéaste lorsqu’il est en live en signe de soutien. 

De nombreux utilisateurs soulignent pourtant que cet outil n’a rien de révolutionnaire puisque la majeure partie des fonctionnalités étaient déjà disponibles – elles sont désormais directement accessibles depuis le tableau de bord. Beaucoup continuent de reprocher à la plateforme de ne pas assez protéger ses utilisateurs, et en particulier les minorités racisées et les femmes, particulièrement exposées au harcèlement. 

Contourner les algos

Combinés, ces outils ont fait diminuer les attaques subies par Mamapaprika et des dizaines d’autres streamers. Mais depuis plusieurs mois, un autre fléau s’est abattu sur Twitch : si les utilisateurs malveillants ne peuvent plus attaquer les vidéastes en leur écrivant directement des messages, ils détournent désormais l’outil de follow pour faire passer des messages outrageants. En créant de faux comptes par dizaines, ils peuvent ainsi insulter le streamer en direct sur son tchat en suivant sa chaîne. Il est courant pour un streamer d’afficher les pseudos des utilisateurs qui suivent ou s’abonnent à sa chaîne et de les remercier en citant leur pseudo « en signe de reconnaissance ». Mais cette fonctionnalité peut se retourner en véritable cauchemar pour les victimes. 

Si l’utilisation de nombreux mots à évidente connotation raciste, sexiste et homophobe sont automatiquement proscrits par la plateforme, il est très facile pour les utilisateurs de contourner les interdictions sans être repérés par les algorithmes : certains mots sont remplacés par d’autres, comme « arbre » pour « arabe »,  et certaines lettres sont remplacées par des signes.

Des attaques qui se font plus nombreuses depuis quelques semaines, d’après la streameuse antiraciste Tatadrapi. « Je reçois généralement un premier message désobligeant, puis le raid arrive dans la foulée ». Récemment, la streameuse s’est même fait bannir de la plateforme à cause d’un raid accompagné d’un signalement de masse, avant d’être rapidement réhabilitée, Twitch défendant une « erreur ». 

Vous pourriez aimer aussi : « L’algospeak », ou l’art d’inventer un nouveau langage pour duper les algorithmes

La streameuse explique ne pas vouloir durcir sa modération, prônant la sensibilisation plutôt que la sanction immédiate. Une démarche qui sollicite néanmoins beaucoup d’énergie à la personne en charge de la chaîne : « Même si tu veux continuer ton stream parce que tu veux pas les laisser gagner, tu es obligé de faire deux fois plus d’efforts pour repartir sur des bases saines mais aussi pour calmer les gens de ta communauté qui vont vouloir prendre ta défense », témoigne Tatadrapi. La streameuse estime que Twitch n’en fait pas assez pour protéger les vidéastes. Selon elle, l’utilisation de l’intelligence artificielle pourrait permettre de repérer les messages insultants dans les pseudo. 

Discord au service des attaques 

Mais la source du problème provient d’ailleurs. Des messageries instantanées comme Discord permettent à des communautés de s’organiser pour mener leurs attaques. En 2021, le Washington Post documentait déjà la permissivité de Discord qui héberge des dizaines de communautés malveillantes, et qui a comme politique de ne jamais bannir un serveur en entier. Ces groupes scrutent en particulier les petits créateurs de contenus pour les attaquer aux bons moments. 

Les attaques vont même parfois plus loin. Les streameur·euses Djelibae et GlitteryGlitch membres de l’association Afrogameuses racontent avoir été victime d’une attaque raciste lors d’un live alors qu’elles avaient convié leur audience à jouer au Jeu Gartic Phone, une sorte de téléphone sans fil où chacun doit dessiner une phrase proposée par un autre joueur, via leur serveur Discord. « Le jeu commence, et là, une phrase négrophobe s’affiche sur l’écran de Glittery Glitch », témoigne Djelibae. Les deux vidéastes comprennent rapidement que deux individus malveillants se sont introduits sur leur serveur sans qu’iels ne s’en rendent compte. « De manière très calme et cordiale, Glitch qui était sous le choc leur a demandé de partir. Avant de quitter le serveur Discord l’un d’eux a crié « vive le Maréchal Pétain ! » ». 

Les plateformes offrent encore peu de moyens d’agir pour garder la trace de ces individus. « Comme les deux individus n’avaient jamais parlé dans le tchat, on a pas de pseudo Twitch », explique Zangzinc, modératrice sur la chaîne de Djelibae. « On a pas moyen de retrouver la liste des spectateurs au moment où ça s’est passé donc ça n’aide pas non plus ». Sur Discord, les comptes ont aussi été inspectés. Ils avaient été créés moins de 48 heures avant le live. « On pense que ce sont des comptes « poubelles », à usage court. Ils sont intraçables car ils passent par l’utilisation de VPN », détaille Zangzinc.  

Lors de la Twitchcon, la convention annuelle organisée par la plateforme les 8 et 9 juillet 2023, plusieurs conférences sur l’inclusion des minorités racisées sur la plateforme ont permis de mettre en avant la problématique de la modération, jugée encore trop limitée par de nombreux vidéastes. Sans évoquer la problématique des passerelles entre les différentes plateformes, Tom Verrilli, le directeur des opérations de la plateforme a annoncé lors de la cérémonie d’ouverture de la convention que le « mode bouclier » allait évoluer pour prendre en compte la suspension des alertes. Cette évolution, si elle voit le jour, pourrait enfin permettre de bloquer l’affichage des pseudo lors d’un raid malveillant.