Pour la lanceuse d’alerte Frances Haugen, ancienne salariée de Facebook, les réseaux sociaux qui utilisent des algorithmes opaques pour diffuser des contenus préjudiciables doivent être maîtrisés d’urgence. Faute de quoi, ils risquent de déclencher un nombre croissant d’événements violents, à l’image des attaques contre le Capitole américain qui ont eu lieu en janvier dernier.
Selon la lanceuse d’alerte, les émeutes du Capitole et ce type d’événements ne sont qu’un avant-goût de ce qui est à venir. « Je n’ai aucun doute sur le fait que les événements auxquels nous assistons dans le monde, des conflits comme ceux qui secouent le Myanmar et l’Ethiopie, ne sont qu’un premier chapitre », a fait savoir cette dernière lors d’une audition devant les parlementaires britanniques. Pourquoi ? « Parce que la notation basée sur l’engagement fait deux choses. D’une part, elle donne la priorité et amplifie le contenu qui divise, qui polarise et qui est extrême. D’autre part, elle le concentre. »
Frances Haugen s’exprimait à Londres devant le Parlement britannique dans le cadre d’une enquête sur le projet de loi sur la sécurité en ligne, présenté en début d’année par le gouvernement conservateur de Boris Johnson. Ce projet de loi propose d’obliger les entreprises à protéger leurs utilisateurs contre les contenus préjudiciables, allant du revenge porn à la désinformation, en passant par les discours de haine et les propos racistes.
Retour aux Facebook Files
Cela tombe bien, Frances Haugen fait figure d’experte en la matière. Cette dernière s’est récemment fait connaître en tant que lanceuse d’alerte à l’origine de la fuite de documents internes de Facebook. Ces documents comprenaient des dossiers internes, des projets de présentation, des recherches et des communications du personnel, qu’elle a obtenus alors qu’elle travaillait en qualité de chef de produit chez Facebook.
Plus connues sous le nom de « Facebook Files », ces fuites ont été publiées par le Wall Street Journal et explorent une variété de sujets, notamment l’utilisation de différentes politiques de modération du contenu pour les utilisateurs très médiatisés, la propagation de fake news et l’impact d’Instagram sur la santé mentale des adolescents.
Pour Frances Haugen, les gouvernements se doivent de mettre en place une régulation plus stricte des réseaux sociaux. « Je me présente aujourd’hui parce que c’est le moment d’agir », se justifie cette dernière. « Les échecs de Facebook font qu’il est plus difficile d’agir ».
Facebook aggrave « incontestablement » la haine
Et de faire valoir que Facebook aggrave « incontestablement » la haine, notamment en raison de son utilisation d’un algorithme de classement basé sur l’engagement, qui pousse les contenus susceptibles de créer plus d’engagement plus haut dans les fils d’actualité des utilisateurs. Comme les contenus extrêmes ont tendance à être plus viraux, cela peut créer un effet d’écho poussant les utilisateurs dans une bulle ne contenant que des contenus polarisants.
Par exemple, une personne à la recherche de recettes saines peut commencer à voir du contenu lié à l’anorexie ; et une personne lisant du contenu de droite peut être poussée vers des messages d’extrême droite. Le problème ne se limite pas à Facebook : des allégations similaires ont déjà été formulées par Guillaume Chaslot, ancien ingénieur logiciel de Google, contre l’algorithme de recommandation de YouTube.
« Le danger, sur Facebook, ce n’est pas que des individus disent de mauvaises choses ; le danger ce sont les systèmes d’amplification de Facebook, qui donnent un porte-voix à ceux qui partagent des contenus extrêmes et polarisants », décrit la lanceuse d’alerte à Londres.
Facebook dopé à l’engagement ?
Selon Frances Haugen, le problème s’étend également aux publicités payantes. Les publicités qui sèment la discorde étant plus susceptibles de susciter l’engagement, il est beaucoup moins coûteux de mener des campagnes publicitaires sur le thème de la colère. De quoi la conduire à affirmer que le système actuel subventionne la haine sur les plateformes de médias sociaux.
Du côté de Facebook, l’heure est à la défense. Le réseau social réfute ces affirmations : la semaine précédant la comparution de Frances Haugen au Parlement britannique, le géant des réseaux sociaux a publié un rapport affirmant que la prévalence des discours haineux a chuté de près de 50 % sur la plateforme au cours des trois derniers trimestres, et qu’ils ne représentent plus que 0,05 % de l’ensemble du contenu consulté.
« Contrairement à ce qui a été dit lors de l’audience, nous avons toujours eu l’incitation commerciale à supprimer les contenus nuisibles de nos sites. Les gens ne veulent pas voir ces contenus lorsqu’ils utilisent nos applications et les annonceurs ne veulent pas que leurs publicités y figurent. C’est pourquoi nous avons investi 13 milliards de dollars et embauché 40 000 personnes pour une seule tâche : assurer la sécurité des utilisateurs de nos applications », faisait récemment savoir un porte-parole de Facebook.
Appel à plus de régulation
Pas suffisant, pour la lanceuse d’alerte, qui soutient que Facebook ne s’autorégulera pas pour protéger ses utilisateurs, étant trop dépendante du taux d’engagement.
« Facebook n’a pas voulu accepter que la sécurité soit sacrifiée, même par petites tranches de profit », accuse-t-elle, rejoignant ainsi les affirmations qu’elle avait faites précédemment, selon lesquelles l’entreprise serait « moralement corrompue », choisissant d’accroître ses profits à tout prix.
Pour éviter que les événements ne dégénèrent en de nouvelles manifestations violentes, il faudrait que les gouvernements agissent, indique-t-elle. Cette dernière suggère d’exiger de Facebook qu’il mette ses données à la disposition de chercheurs extérieurs à l’entreprise, afin de permettre l’investigation de problèmes potentiels de l’extérieur, et recommande la modération obligatoire des groupes Facebook lorsqu’ils dépassent un certain nombre d’utilisateurs.
Source : ZDNet.com
