L'algorithme de TikTok favorise les contenus misogynes, selon une étude

Les réseaux sociaux, et en particulier TikTok, sont à nouveau pointés du doigt. Quelques jours à peine après que  le maire de New York a porté plainte contre plusieurs plateformes de réseaux sociaux, accusées d'être nuisibles pour la santé mentale des jeunes, une étude menée conjointement par l'Université de Londres et l'Université du Kent, au Royaume-Uni, souligne les risques que présente l'algorithme de TikTok en termes de diffusion d'idées misogynes et de masculinité toxique.

Jusqu'à quatre fois plus de contenus misogynes

Les chercheurs et chercheuses qui ont participé à cette étude ont travaillé sur un millier de vidéos de la plateforme TikTok, pendant une semaine, en partant de quatre archétypes parmi les profils d'utilisateurs de l'application : des individus qui souffrent de solitude, des individus focalisés sur le développement de leurs connaissances sur la santé mentale, des individus qui s'intéressent au sport, à la musculation, et enfin des individus qui s'intéressent aux "Droits des hommes", un mouvement qui rejette l'idée que les hommes sont privilégiés par rapport aux femmes dans la société.

À partir de ces quatre profils, l'étude a analysé la façon dont les contenus sexistes et misogynes avaient tendance à remonter dans les recommandations algorithmiques de la plateforme, le flux "Pour toi" qui s'ouvre par défaut lorsqu'on lance l'appli. Selon le rapport de l'étude, "après seulement cinq jours d'utilisation de TikTok, le niveau de contenu misogyne présenté sur la page "Pour toi" de TikTok est multiplié par quatre". Les auteurs et autrices du rapport, qui soulignent le fait que "le contenu dangereux est présenté comme du divertissement" sur la plateforme, expliquent que ce contenu est trop facilement présenté aux jeunes garçons, "exploitant leur vulnérabilité".

"Diète numérique"

En d'autres termes, "les garçons qui souffrent de mauvaise santé mentale, de brimades, ou d'anxiété sur leur futur sont confrontés à un risque plus fort", peut-on lire dans le rapport d'enquête. "Par conséquent, les idéologies comme le sexisme et la misogynie sont présentées comme normales parmi les jeunes, et se glissent dans leurs interactions au quotidien", ajoutent les chercheurs, qui appellent à mettre en place une approche éducative de "diète numérique".

Ce n'est pas la première fois que des rapports mettent en exergue un "effet spirale" : plus un utilisateur est intéressé par un sujet, plus la plateforme va contribuer à restreindre les vidéos suggérées à ce sujet, de sorte que l'utilisateur s'y intéresse encore plus, et ainsi de suite. En novembre dernier, Amnesty International avait publié une étude qui montrait la nocivité potentielle de la plateforme pour les jeunes, notamment pour ceux dont la santé mentale est fragile, avec notamment des vidéos banalisant voire encourageant l'auto-mutilation et le suicide.